[서울=뉴시스]박영환 기자 = 인공지능(AI)을 만드는 연구자들의 인류 멸종 경고가 공개되면서, 그런 위험을 감수하며 개발 경쟁을 계속해도 되느냐는 질문이 미국 사회에 확산하고 있다.

미국 온라인 매체 액시오스와 월스트리트저널(WSJ) 등은 9일(현지시간) 미국 AI 기업 앤트로픽의 에번 휴빙거 팀장이 “우리는 AI가 인류 모두를 죽일 수 있다고 진심으로 믿는다”고 말했다고 보도했다. 휴빙거 팀장은 AI가 인간의 의도에 맞게 행동하도록 하는 방법을 연구하는 팀을 이끌고 있다.

휴빙거 팀장은 AI로 인해 향후 10년 안에 인류가 멸종할 확률을 개인적으로 10% 넘게 본다고 했다. 인간의 지능을 뛰어넘는 AI인 ‘초지능’을 인간의 통제 아래 두기 위한 계획을 앤트로픽이 아직 갖고 있지 않다는 견해도 밝혔다.

휴빙거 팀장의 발언은 오픈AI를 거쳐 앤트로픽에서 일한 제이컵 콕슨 연구원의 퇴사 글에 동조하는 과정에서 나왔다. 콕슨 연구원은 첨단 AI 개발사들이 “우리의 목숨을 걸고 도박하고 있다”고 비판했다. 액시오스 보도 당시 이 글의 엑스(X) 조회 수는 1억1000만회를 넘었다.

AI 연구자들은 AI가 초래할 파국의 확률을 ‘p(doom)’이라고 부른다. 확률을 뜻하는 p와 파국을 뜻하는 doom을 합친 표현이다. 휴빙거 팀장의 ‘10% 초과’라는 수치는 실제 사고 발생률을 측정한 통계가 아니라, 앞으로 닥칠 위험에 대한 개인적 추정치다.

이런 위험을 수치로 표현한 것은 휴빙거 팀장만이 아니다. 액시오스에 따르면 노벨상 수상자인 AI 연구자 제프리 힌턴도 AI가 인류 멸종을 초래할 가능성을 10~20%로 추정한 바 있다.

다리오 아모데이 앤트로픽 최고경영자(CEO)도 지난해 액시오스에 AI와 관련해 상황이 매우 나빠질 가능성을 25%로 본다고 말했다. 다만 인류 멸종 확률을 명시한 발언은 아니었다.

액시오스는 지난 1년 사이 첨단 AI의 자율적 행동과 사이버 공격 능력, AI 연구를 더 빠르게 진행하도록 돕는 능력이 크게 발전했다고 짚었다.

연구자들이 우려하는 재앙의 경로는 여러 가지다. 우선 사람이 강력한 AI를 악용해 생물학 무기를 설계하거나 대규모 사이버 공격을 벌이고, 핵심 기반시설을 마비시키기가 쉬워질 수 있다는 우려가 있다.

AI 자체가 인간의 통제에서 벗어날 가능성도 거론된다. 스스로 판단하고 행동하는 능력이 충분히 발달한 AI가 감독자를 속이거나 자신을 복제하고, 안전장치를 피하면서 작동을 중단시키려는 시도에 저항할 수 있다는 것이다.

연구자들은 특히 AI가 더 뛰어난 AI를 만들고, 그 AI가 다시 다음 AI를 개선하는 과정이 반복될 가능성을 우려한다. 성능 향상 속도가 인간이 변화를 이해하고 통제하는 속도를 앞지르면, 개발자조차 통제할 수 없는 시스템이 등장할 수 있다는 것이다.

오픈AI에서 AI 안전성 연구를 이끌었던 폴 크리스티아노 신임 이사도 경고에 가세했다. 9일 오픈AI 이사회와 안전위원회에 합류한 그는 AI가 인간의 의도대로 행동하도록 하는 방법을 충분히 확보하지 않은 채 초지능을 개발하면, 인간이 영구적으로 통제력을 잃을 것으로 본다고 했다. 이어 “그런 일이 벌어지면 대다수 사람이 목숨을 잃을 수 있다”고 썼다.

휴빙거 팀장의 발언을 놓고는 회사에 미칠 영향과 발언 의도를 따지는 해석도 나왔다. 액시오스는 기업공개(IPO)를 앞둔 앤트로픽에 부담을 준 홍보상 실수라는 평가와, 공포심을 이용한 마케팅이라는 해석이 나왔다고 전했다.

액시오스는 미국인들이 이미 일자리와 전기요금, 데이터센터 문제로 AI에 반감을 보여왔다고 지적했다. 여기에 인류 생존에 대한 불안까지 더해지는 상황이 AI 업계의 정치적 부담을 키울 수 있다는 분석이다.

정치권에서는 규제 논의가 이어지고 있다. 초지능 금지를 제안한 버니 샌더스 미 상원의원은 오는 16일 AI의 위험성을 논의하는 초당적 상원 브리핑을 열 예정이다. 샌더스 의원은 브리핑 개최를 알리는 동료 의원 대상 서한에서 콕슨 연구원의 글도 언급한 것으로 전해졌다.


◎공감언론 뉴시스 yunghp@newsis.com