"개발 멈추면 中에 잡힌다"…美 AI 수장들의 속도 조절 딜레마

[서울=뉴시스]서이현 인턴 기자 = 전 세계 인공지능(AI) 업계를 이끄는 리더들이 개발 속도를 늦춰야 한다는 데 뜻을 모았다. 사기 범죄 고도화와 딥페이크를 이용한 민주주의 훼손, 생화학 무기 확산 등 AI가 인류에 미칠 잠재적 위협이 크다는 판단에서다. 다만 미국과 중국의 패권 경쟁 속에서 실제로 개발을 멈추기는 어렵다는 지적도 나온다.

14일 유튜브 채널 '박정호 교수의 여의도멘션'에 따르면 샘 올트먼 오픈AI 최고경영자(CEO), 일론 머스크 xAI CEO, 다리오 아모데이 앤트로픽 CEO 등 AI 업계 주요 수장들이 최근 개발 속도 조절 필요성에 공감했다. 박정호 교수(명지대학교 테크노아트대학원 실물투자분석학과 특임교수)는 영상에서 "속도를 좀 늦추자 AI 개발 속도를 늦춰서 대응력을 좀 갖추자는 말에 일론 머스크, 샘 올트먼도 찬성했다"고 전했다.

최신 AI 모델이 수능에서 만점을 받는 등 초인간적 능력을 보이면서 '인공일반지능(AGI)' 도달 가능성까지 제기되자 위기감이 커졌다는 설명이다. 이에 외부 독립 기관의 감시와 개발 속도 조절이 필요하다는 목소리가 나오고 있다.

박정호 교수는 AI가 인류를 위협할 수 있는 요인으로 사기 범죄의 고도화를 꼽았다. 초고령화 사회에서 1인 가구와 홀로 사는 노인을 노린 보이스피싱이 AI로 더욱 정교해지고 있다는 것이다. 그는 이런 수법이 전 재산을 잃을 수 있는 위협으로 다가오고 있다고 우려했다.

딥페이크를 이용한 민주주의 훼손 가능성도 제기됐다. 박 교수는 "상대편 후보를 어떻게든 꺾어 내리기 위해서 딥페이크 기술로 얼굴과 목소리가 완전히 조작된 악의적인 영상을 만들어서 뿌릴 수 있다"라고 설명했다. 이런 상황이 반복되면 정책 저항이 심해지고 결국 "민주주의 자체를 할 필요가 없는" 지경에 이를 수 있다고도 했다.

생물·화학 무기 확산 우려도 나왔다. 그는 "AI로 지금 가장 걱정하는 게 생물 또는 화학 무기다. 노벨상 수상자들이 AI로 조만간 바이오 쪽에 엄청난 성과들을 낼 것 같다"고 말했다. 고지능 AI가 악용되면 누구나 손쉽게 치명적 전염병이나 생화학 무기를 설계할 위험이 커진다는 것이다. 일자리 감소와 불평등 심화도 사회적 갈등을 키우는 요인으로 지목됐다.

그러나 미국이 홀로 개발을 늦추기는 현실적으로 어렵다는 지적이 이어졌다. 딥시크 등을 앞세운 중국의 추격이 거세지고 있어서다. 박 교수는 "중국 내에서 'AI 때문에 우리 인류가 걱정된다'고 얘기하는 학자나 CEO는 아직은 못 봤다"며 중국이 개발을 멈출 의사가 없다는 점을 지적했다.

박 교수는 만약 미국이 위험성을 이유로 개발을 멈추거나 속도를 늦춘다면, 기술 경쟁자인 중국이 그 공백을 틈타 빠르게 추격해 역전할 가능성이 매우 높다고 말했다. 중국은 개발 중단에 대한 논의보다는 오히려 미국을 따라잡는 데 집중하고 있기 때문에, 미국 입장에서는 기술적 우위를 지키기 위해 멈출 수 없는 구조라는 설명이다.

물론 AI 발전에 따른 긍정적 측면도 있다. 그는 "AI 기술이 좀 더 발달되면 평생 앞을 못 보고 살았던 사람들, 평생 못 걸어본 사람들, 난치병으로 고통받고 있는 사람들을 치료할 수도 있다"고 말했다. 난치병 치료나 시력 회복 등 기대되는 성과도 있다는 것이다.

통제하기 어려운 기술 발전 속도와 패권 경쟁이 맞물리면서, 인류는 AI를 둘러싼 딜레마에서 쉽게 빠져나오기 어려울 것으로 보인다.


◎공감언론 뉴시스 [email protected]