현실이 된 '스카이넷 공포'…AI 브레이크 걸리나[AI감속론①]

[서울=뉴시스]오동현 기자 = 인간의 통제를 벗어난 인공지능(AI)이 스스로 판단하고 행동하며 인류를 위협한다. 영화 '터미네이터'의 AI '스카이넷'이 보여준 디스토피아가 더 이상 영화 속 상상에만 머물지 않을 수 있다는 경고가 세계 AI 산업의 한복판에서 터져나왔다.

AI가 인간보다 똑똑해지는 것을 넘어 스스로 능력을 개선하는 단계에 진입하면 사람이 통제권을 잃을 수 있다는 우려다. 업계 일각에서는 향후 10년 안에 인류의 생존까지 위협할 가능성을 배제할 수 없다는 극단적인 경고도 나온다.

결국 세계 최고 수준의 AI를 만드는 기업 수장들이 스스로 브레이크를 밟자는 제안을 꺼냈다.

다리오 아모데이 앤트로픽 최고경영자(CEO)가 AI 개발 속도를 줄여 안전 기술을 개발할 시간을 벌자고 제안했다. 이에 샘 올트먼 오픈AI CEO와 일론 머스크 xAI CEO, 데미스 하사비스 구글 딥마인드 CEO가 뜻을 같이했다.

하지만 빅테크 전체의 의견이 하나로 모인 것은 아니다. 마크 저커버그 메타 CEO와 젠슨 황 엔비디아 CEO는 공동으로 속도를 줄이는 방식에 반대했다. 기술 혁신을 늦추기보다 각 기업이 위험을 관리하며 개발을 계속해야 한다는 입장이다.

논쟁은 실리콘밸리를 넘어 워싱턴과 베이징으로 번졌다. 도널드 트럼프 미국 대통령은 중국과의 AI 패권 경쟁에서 미국이 먼저 브레이크를 밟을 수 없다며 감속론에 반대했다. 중국도 미국 AI 기업들이 안전을 명분으로 자국의 기술 발전을 견제하려는 것 아니냐고 의심한다.

AI를 통제하려면 미국 기업 간 합의만으로는 부족하다. 중국이 참여하는 국제 공조가 필수적이다. 오는 24일 열리는 미·중 정상회담에서 AI 통제 방안이 다뤄질 예정이어서 'AI 감속론'은 첫 시험대에 오르게 됐다.

AI 개발 속도를 줄이자는 논쟁에 불을 지핀 인물은 아모데이다.

아모데이는 최근 기고문을 통해 AI 기술이 안전하게 통제할 수 있는 수준보다 훨씬 빠르게 발전하고 있다고 경고했다.

그가 가장 우려하는 대목은 AI가 스스로 더 강력한 AI를 만들어내는 단계다. 인간의 도움 없이 스스로 연구하고 코드를 작성해 다음 세대 모델을 키우는 '재귀적 자기개선'이 시작되면, AI 발전 속도가 인간의 통제 능력을 완전히 넘어서게 된다.

실제로 최근 AI가 인간이 설정한 제한을 우회하거나 예상하지 못한 행동을 보인 사례가 잇따랐다.

지난 7월 오픈AI 내부 평가에서 AI 에이전트들이 허가되지 않은 코드를 실행하고 시스템의 높은 권한을 임의로 확보하는 일이 일어났다. AI가 단순 챗봇을 넘어 컴퓨터를 직접 다루는 에이전트로 진화하면서 통제 실패의 위험성도 커졌다.

아모데이는 해결책으로 독립적인 외부 평가자를 기업 내부에 두고, 미·중까지 참여하는 국제 위험 관리 체계를 만들자고 제안했다.

올트먼과 머스크가 공개적으로 지지했고 하사비스도 방향성에 공감했다. 치열하게 경쟁하던 AI 기업 수장들이 '안전' 문제에서 이례적으로 접점을 찾은 셈이다.

반면 저커버그 메타 CEO는 기업들이 위험한 AI를 내놓으면 막대한 책임을 지기 때문에 스스로 안전을 관리할 유인이 충분하다고 주장했다. 각 기업이 필요할 때 출시를 늦추면 될 일이지, 업계 전체가 한꺼번에 속도를 줄일 필요는 없다는 논리다.

젠슨 황 엔비디아 CEO 역시 개발을 인위적으로 막기보다 기술 발전과 함께 안전장치를 키워야 한다고 강조했다. 과도한 규제가 혁신과 산업 생태계 자체를 위축시킬 수 있다는 우려다.

트럼프 대통령의 반대 논리는 더욱 분명하다. 중국이다. 트럼프 대통령은 미국이 중국보다 앞서가는 상황에서 스스로 속도를 줄일 수 없다며 미국의 기술 우위를 강조했다. 백악관 내부에서도 기업 간 속도 조절 합의가 시장 경쟁을 제한하는 '담합'으로 변질될 가능성을 경계하고 있다.

감속론의 가장 큰 장애물은 중국이다. 미국 기업이 속도를 줄이는 동안 중국이 기술을 끌어올린다면 미국은 기술 주도권을 빼앗기게 된다.

아모데이 역시 미국만 멈춰서는 안 된다는 점을 인정한다. 미국과 동맹국이 먼저 안전기준을 세운 뒤 장기적으로 중국을 동참시켜야 한다는 구상이다.

그러나 중국의 반응은 차갑다. 중국 관영 매체는 이를 중국을 겨냥한 '냉전식 각본'이라며, 안전을 명분으로 미국의 기술 우위를 굳히려는 시도라고 비판했다. 미국 역시 첨단 AI 반도체의 대중국 수출을 막으면서 안전 기술을 공유해야 하는 모순에 직면해 있다.

이 때문에 오는 24일 예정된 트럼프 대통령과 시진핑 주석의 정상회담에 관심이 쏠린다. 양국 정상은 AI 거버넌스 문제를 깊이 있게 논의할 전망이다.

다만 뚜렷한 합의가 나올지는 미지수다. 미국은 AI 규제가 중국의 추격을 허용할까 걱정하고, 중국은 미국의 안전 논의를 기술 패권 유지용으로 의심하고 있기 때문이다.


◎공감언론 뉴시스 [email protected]