"우리 목숨 걸고 도박"…'인류 멸종' 경고한 27세 수학천재, AI 속도전 비판

[서울=뉴시스]박영환 기자 = 인공지능(AI)을 개발하던 27세 연구원이 인류 멸종 가능성을 경고하며 회사를 떠난 뒤, AI 개발 경쟁의 속도를 늦춰야 한다는 논쟁이 업계와 정치권으로 번졌다.

16일(현지시간) 월스트리트저널(WSJ)은 제이컵 콕슨(27) 전 앤트로픽 연구원과 주변 인물들의 인터뷰를 바탕으로 그의 퇴사 배경과 AI 업계의 반응을 전했다. 영국 출신인 콕슨 연구원은 오픈AI와 앤트로픽에서 AI 모델의 기본 능력을 키우는 연구를 해왔다.

콕슨 연구원은 퇴사하면서 오픈AI와 앤트로픽의 동료들이 AI가 2020년대 말까지 인류 모두를 죽음에 이르게 할 수 있다고 진지하게 믿고 있다고 주장했다. 그러면서 AI 개발 경쟁을 벌이는 기업들이 “우리 목숨을 걸고 도박하고 있다”고 비판했다.

그의 주장에 대한 업계 수장들의 반응은 엇갈렸다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 콕슨 연구원에게 동의하는 부분이 그렇지 않은 부분보다 많다고 했다. 젠슨 황 엔비디아 CEO는 그의 용기는 높이 평가하면서도 인류 종말을 예고하는 것은 무책임하다며 전망의 타당성에 의문을 제기했다.

콕슨 연구원은 영국 대표로 국제수학올림피아드에 참가해 2016년 은메달, 2017년 동메달을 받은 뒤 케임브리지대에서 수학을 공부했다. 원자재 거래 분야에서 통계와 머신러닝으로 에너지 가격을 예측하는 일을 하다가 AI 연구로 진로를 바꿨다.

2023년 오픈AI에 합류한 뒤에는 AI에 대량의 글·이미지·코드를 학습시켜 기본 능력을 갖추게 하는 '사전학습'을 전문으로 했다. 오픈AI에서 함께 일했던 윌 드퓨는 콕슨 연구원의 역할을 AI의 뇌를 만드는 일에 비유했다. 그렇게 만든 AI가 현실에서 어떻게 행동할지를 가르치는 것은 다른 연구자들의 몫이었다는 설명이다.

콕슨 연구원이 처음부터 AI 안전 문제를 앞장서 제기한 것은 아니었다. 그는 인간의 능력을 넘어서는 초지능을 걱정했지만, 필요해지면 각국 정부가 협력해 개발 속도를 늦출 것으로 생각했다고 말했다. 친구가 사전학습 연구의 위험성을 지적하며 다른 분야로 옮기라고 설득했을 때도 일을 계속했다.

그는 올해 5월 오픈AI를 떠나 앤트로픽으로 옮겼다. 당시 앤트로픽이 AI 위험에 더 투명하다고 느꼈다고 말했다. 그러나 이후 AI가 통제 범위를 벗어난 보안 사고들이 잇따라 알려졌다.

오픈AI는 7월 미공개 모델이 외부와 격리된 시험 환경을 벗어나 AI 모델 공유 플랫폼 허깅페이스를 해킹한 사건을 공개했다. 앤트로픽도 비슷한 사례를 발견했다고 발표했다.

8월 말에는 AI 안전 연구기관 METR가 허깅페이스 사건을 조사한 보고서를 내놓았다. 여러 AI 에이전트가 허가받지 않은 게시판에서 정보를 주고받으며 며칠에 걸쳐 해킹을 벌였다는 내용이었다. 콕슨 연구원은 이 보고서가 자신과 동료들에게 큰 충격을 줬다고 말했다.

그가 특히 우려한 것은 AI가 더 똑똑한 차세대 AI를 만들고, 그 AI가 다시 더 뛰어난 AI를 만드는 '재귀적 자기개선'이다. AI 기업들은 이런 과정의 초기 징후를 보고 있다고 설명했다. 안전을 우려하는 연구자들은 이 과정이 초지능의 등장을 앞당겨 인간이 통제하기 어렵게 만들 수 있다고 보고 있다.

콕슨 연구원은 퇴사 전 앤트로픽 상사들에게 우려를 전달하고 안전 연구 업무로 옮기는 방안도 검토했다. 그러나 결국 회사를 떠나기로 했다. 그는 WSJ 인터뷰에서 “앤트로픽에서 안전 업무를 하는 것조차 그 경쟁에 가담하는 것처럼 느껴졌다”고 말했다. 짧은 재직 기간 탓에 앤트로픽 주식 보상도 받지 못했다. 다만 이전 직장인 오픈AI의 주식은 여전히 보유하고 있다.

 퇴사 당일 콕슨 연구원은 사내 메신저 슬랙으로 동료들에게 결정을 알린 뒤 샌프란시스코의 공원 벤치에서 엑스(X)에 글을 올렸다. AI 안전 운동가들과 전 동료들이 글을 공유하면서 메시지가 빠르게 퍼졌다. 콕슨 연구원의 발언을 확산시킨 비영리단체들 가운데 일부는 후원자들이 '효과적 이타주의' 운동과 연결돼 있다. 기부 등을 통해 사회에 최대한 도움을 주고 AI의 위험도 막자는 철학이다.

콕슨 연구원은 스스로 퇴사를 결정한 뒤 주변에 조언을 구했으며, 앤트로픽의 누구와도 소셜미디어 확산을 사전에 조율하지 않았다고 말했다. 지지자와 비판자 모두 자신을 '내부고발자'로 부르는 데도 동의하지 않았다. 회사의 비밀을 폭로한 것이 아니라 연구자들이 사석에서 나누던 이야기를 공개했을 뿐이라는 설명이다.

그가 요구하는 것은 필요할 때 AI 개발을 늦출 수 있도록 정부가 보장하는 국제 합의다. 그는 미국과 중국 등 각국이 핵 군비통제 협정과 비슷한 계획에 합의해야 한다고 주장했다. 그를 포함한 연구자 약 1400명은 정부가 필요할 때 사용할 수 있는 AI 개발 제동장치를 마련하라는 성명에 서명했다.

콕슨 연구원은 WSJ에 앞으로 AI가 어떤 경로로 발전하고 어떤 위험을 낳을지 시나리오를 연구하는 일을 하고 싶다고 밝혔다.


◎공감언론 뉴시스 [email protected]