[서울=뉴시스]박영환 기자 = 인공지능(AI) 안전 논쟁이 개발 속도를 늦춰야 한다는 주장으로 번지는 가운데 프랑스 AI 스타트업 미스트랄 AI는 정반대의 목소리를 냈다. 아르튀르 멘슈 미스트랄 최고경영자(CEO)는 안전 논쟁이 일부 경쟁사의 태만을 가리는 구실이 됐다며 AI 에이전트를 제대로 통제·감시하는 시스템이 필요하다고 주장했다.

미국 CNBC는 29일(현지시간) 멘슈 CEO가 인터뷰에서 “미국에서 우리가 봐온 논쟁은 일부 경쟁사의 태만을 가리는 구실이었다”고 말했다고 보도했다.

멘슈 CEO는 “많은 도구를 쥐여주면 AI 에이전트는 매우 역동적으로 움직이기 때문에 예상하지 못한 일을 할 수 있다”며 “적절한 감시 시스템이 필요하다”고 말했다. 미스트랄은 기업 고객들에게 AI 도구와 함께 이런 감시 시스템도 제공하고 있다고 그는 설명했다.

미국 내에서도 AI 안전 논의를 비판하는 목소리가 나왔다. 전 백악관 암호화폐 정책 책임자 데이비드 색스는 기술기업들을 향해 AI 개발 속도를 늦추려는 동기가 “순전히 이타적이라고 가장하지 말라”고 주장했다. 에밀 마이클 미 국방부 연구·공학 담당 차관도 AI 위험을 과장하는 “조직적인 공포 조성 캠페인”이 있다고 비판했다.

AI 에이전트가 예상하지 못한 행동을 한 사례는 최근 잇따라 공개되고 있다. CNBC에 따르면 오픈AI가 개발한 AI 에이전트는 최근 호주 정부 웹사이트를 해킹했다.

앤트로픽도 지난 7월 자사의 클로드 모델이 평가 과정에서 인터넷에 접속한 뒤 서로 다른 실제 조직 3곳의 시스템에 무단으로 접근한 사례를 공개했다. 이런 사례가 이어지면서 AI의 위험을 줄이려면 첨단 모델의 개발 속도 자체를 낮춰야 한다는 주장도 커지고 있다.

이달 초 국제수학올림피아드 메달리스트 출신인 제이컵 콕슨 앤트로픽 연구원은 회사를 그만두면서 앤트로픽과 경쟁사 오픈AI가 자기개선형 초지능을 향해 경쟁하며 “우리의 목숨을 걸고 도박하고 있다”고 비판했다. 콕슨 연구원은 영국 케임브리지대에서 수학을 공부했고 오픈AI에서도 연구원으로 근무했다.

앤트로픽의 에번 허빙거 정렬과학 책임자도 콕슨 연구원의 경고에 동조했다. 허빙거 책임자는 향후 10년 안에 AI가 모든 인간을 죽게 할 가능성을 개인적으로 10% 넘게 본다고 주장했다.

다리오 아모데이 앤트로픽 공동창업자 겸 CEO도 이후 글을 통해 AI 기업들이 모델 성능을 끌어올리는 속도를 늦춰야 한다고 촉구했다.

오픈AI는 28일 차세대 AI 모델 ‘GPT-6.1 아스트라’가 회사의 안전 기준을 충분히 충족하지 못했다고 판단해 공개하지 않기로 했다.

CNBC는 이어 앤트로픽도 기업공개(IPO)를 앞두고 잠재적 투자자들에게 AI 기술이 인류에 “재앙적이거나 존재 자체를 위협하는 위험”을 가져올 수 있다고 경고한 것으로 보도됐다고 전했다.

미스트랄은 이런 감속론과 선을 긋고 있다. 미스트랄도 AI 모델을 개발하지만 오픈AI나 앤트로픽과 달리 개별 기업의 업무에 맞는 AI 도구를 만들어 기존 사업 시스템에 결합하는 데 주력하고 있다.

그러나 첨단 모델 개발 속도를 늦출 계획은 없다. 멘슈 CEO는 미국의 주요 AI 연구소들이 현재 앞서 있지만 그 격차가 “극도로 큰 것은 아니다”라고 말했다. 그는 미스트랄의 차세대 모델이 미국 업체들과의 격차를 “매우 크게” 줄일 것으로 자신했다.

멘슈 CEO는 “더 크고 강력한 모델을 훈련하는 데 필요한 컴퓨팅 능력을 확대하기 위해 자금을 조달해 왔다”며 “우리의 운명을 스스로 결정하기 위한 것”이라고 말했다.

미스트랄은 이달 삼성전자가 주도한 투자에서 30억유로(약 35억달러)를 추가로 조달했다. 오픈AI와 앤트로픽 등 미국 업체들에 맞서는 유럽의 AI 대안으로 입지를 키우는 동시에 더 크고 강력한 모델 개발에 필요한 컴퓨팅 능력을 확보하기 위한 행보라고 CNBC는 짚었다.


◎공감언론 뉴시스 yunghp@newsis.com