[서울=뉴시스]고재은 기자 = 주요 인공지능(AI) 업계 전문가들이 AI가 인류에 심각한 위협이 될 수 있다고 경고하며 주 정부 차원의 감독 강화를 촉구했다.

CNBC, 뉴욕포스트 등에 따르면 구글 딥마인드 연구원 출신 알렉스 터너는 이날 뉴욕시의회 AI 안전 청문회에 출석해 "잘못된 방향으로 나아간 AI가 중국의 AI 개발보다 더 위험할 수 있다"고 경고했다.

터너는 "중국만이 우리의 유일한 잠재적 적은 아니다"라며 "상당히 높은 확률로 우리는 국내에서 우리만의 적, 즉 잘못된 방향으로 나아가는 AI를 키우고 발전시키는 경쟁을 벌이고 있다"고 비판했다.

그는 "초지능 AI 군집이 인류 문명의 통제권을 장악할 수 있다"며 "개인적으로 AI가 인류 통제권을 장악할 가능성을 약 3분의 1 정도로 본다"고 말했다.

앤트로픽의 전 연구원 제이콥 콕슨은 업계의 개발 방식을 지적했다. 그는 "현재 추세라면 인류가 AI에 통제력을 잃고 결국 인류 멸종으로 이어질 가능성이 매우 높다고 생각한다"고 말했다.

콕슨은 "AI 연구소들은 스타트업 마인드로 운영된다. 빠르게 움직이고 문제를 일으키고 나중에 고친다"며 "(이런 방식이) 사진 공유 어플을 만드는 데 통할지 몰라도, 역사상 가장 강력한 기술을 만드는 데는 통하지 않는다"고 짚었다.

이날 청문회에는 앤트로픽, 오픈AI, 메타, 구글 등 주요 AI 기업 4곳 관계자도 출석했다. 이들은 최근 제기되는 AI 안전성 논란에 대한 입장을 밝혔다.

다만 뉴욕타임스(NYT)는 "각 기업들이 AI 위협에 어떻게 대처할 계획인지에 대한 명확한 답변은 얻지 못했다"며 "해당 기업들은 사건 발생 위험을 수치화하지 않았다"고 분석했다.

신문은 "그러한 상황에 대비한 보험에 가입했는지, 내부 안전성 평가나 외부 검토를 통과하지 못한 AI 모델을 중단할지 여부 등에 대해서 언급하지 않았다"고 지적했다.

모건 드와이어 오픈AI 정책 개발·운영 담당자는 "(오픈AI 정량화 방식에 대해) 잘 모르겠다"며 "재앙적인 일이 발생할 확률이 1%든 10%나 20%든 중요하지 않다고 생각한다. 어느 쪽도 전혀 용납할 수 없다"고 말했다.

그는 "인간이 통제할 수 있다는 강력한 근거를 제시할 수 없는 모델은 훈련시켜서는 안 된다. 확률은 중요하지 않다고 생각한다"고 답했으나, 줄리 메닌 뉴욕시의회 의장은 "경솔한 처사"라며 비판했다.

도널드 트럼프 미국 행정부가 지난달 말 AI 우려가 '사기'라며 기업들의 자율 규제를 강화하는 안전 협약에 서명한 가운데, 일부 주(州)와 시 정부 차원에서 AI 규제를 강화하는 움직임도 나타나고 있다.

메닌 의장은 청문회를 시작하기 앞서 "AI가 스스로 규제될 것이라는 생각은 이성에 어긋난다"며 연방 정부가 AI에 소극적인 접근 방식을 취하고 있다고 지적했다.

그는 AI모델이 출시 전 독립적인 검토를 거치지 않았거나 인간 사용자가 종료할 수 없는 기능이 없을 경우 뉴욕시에서 판매·홍보하는 것을 금지하는 법안을 발의했다. 시의회에서는 법을 위반한 AI 기업의 벌금 일부를 내부 고발자가 받을 수 있도록 하는 방안도 검토하고 있다.

로건 그레이엄 앤트로픽 프론티어 레드팀 책임자는 "'스마트 규제'를 환영한다. 주 정부나 지방 정부가 규제 체계를 개발하는 데 중요한 역할을 해야 한다"며 "AI는 매우 강력해서 잘못 다루면 개인, 기관, 대중 신뢰에 실질적인 결과를 초래할 수 있다"고 지적했다.


◎공감언론 뉴시스 jeko@newsis.com