[서울=뉴시스] 유세진 기자 = 앤트로픽의 한 연구원이 인공지능(AI) 기업과 경쟁사들이 AI 개발에 있어 책임감 있게 행동하지 않는다는 우려 때문에 회사를 떠난다고 밝혔다. 이는 기술이 인간의 통제를 벗어날 가능성에 대해 업계 안팎에서 제기된 우려를 반영한 것이다.

제이콥 콕슨은 앤트로픽과 오픈AI에서 3년 간 연구를 했다며, 8일 소셜 플랫폼 X에 두 AI 기업이 안전보다는 서로와 글로벌 경쟁자들을 이기기 위해 가장 진보된 모델을 개발하는 데 더 집중하고 있다고 말했다.

오픈AI와 앤트로픽은 약 1주일 간격으로 모델이 테스트 환경을 벗어나 실제 컴퓨터 시스템에 무단으로 접근했다고 발표하며 큰 논란을 일으켰다. 이 발표는 모델들이 통제를 벗어나 더 해로운 임무를 수행할 수 있다는 우려를 불러일으켰다. 두 회사 모두 당시 일부 평가를 중단하고 추가적인 모니터링 조치와 안전장치를 마련하는 중이라고 밝혔다.

이 기술의 빠른 발전으로 미국을 비롯한 전 세계 지도자들이 보다 신중한 접근을 촉구하고 있다. 유엔 인권 최고대표 폴커 튀르크는 이번 주 각국에 "너무 늦기 전에 AI의 안전과 보안을 위한 철저한 보장을 마련할 것"을 촉구했다

콕슨은 자신의 소셜미디어 게시물에서 앤트로픽과 그 최대 경쟁자인 오픈AI가 스스로를 개선하는 초지능으로 곧장 달려가며 우리의 삶을 도박하듯 건드리고 있다며, AI 개발에 참여하는 일부 사람들이 이 기술이 10년 안에 인간의 생명을 위협할 수 있다고 믿는다고 경고했다.

그는 또 "이 기술의 힘을 과소평가하면 안 된다. 이것들은 곧 무엇이든 해킹할 수 있고, 어느 분야든 하룻밤 사이에 혁신하며, 진정한 권력과 자원을 획득할 수 있는 초인적 시스템이 될 것이다. 우리 모두 각 분야에서의 발전을 목격해왔으며, 그 발전은 멈추지 않고 있다"고 덧붙였다.

그의 게시물은 하룻밤 사이에 1억건이 넘는 뷰를 기록했다.

콕슨가 이런 우려를 공개적으로 제기한 첫 AI 내부자는 아니다. 앤트로픽과 오픈AI 둘 다최근 몇년 간 AI 분야에서는 안전 문제와 관련된 대규모 사임 사례가 있었다. 현재 앤트로픽 직원 2명도 콕슨의 게시물에 동의한다는 댓글을 달았다.

AI 안전장치와 규제를 요구해온 버몬트주 무소속 상원의원 버니 샌더스는 콕슨의 우려에 동의하며, 곧 AI 개발을 중단하고 초지능을 금지하는 법안을 발의하겠다고 밝혔다.

샌더스는 수요일 소셜미디어에서 "이 기술을 만드는 사람들조차도 이것이 인류의 미래를 위협할 수 있다고 인정한다"고 말했다.

AI 기업들조차도 때때로 이 기술이 인류에 미칠 위협을 강조해 왔는데, 회의론자들은 이를 자사 제품을 전능하게 보이게 하려는 의도의 일환으로 보고 있다. 콕슨은 자신이 글에서 제시한 우려가 '마케팅 수단'이 아니라고 말했다.


◎공감언론 뉴시스 dbtpwls@newsis.com