이란 연계 조직, 공개정보 모아 미 해군 표적자료 작성
예멘 조직은 미사일 유도 개발…시험 실패 뒤 AI에 분석 요청
미국 액시오스와 월스트리트저널(WSJ)등은 12일(현지시간) 클로드 개발사 앤트로픽의 보고서를 인용해 이같이 보도했다. 앤트로픽은 지난 8개월 동안 자사 AI의 악용 사례를 추적하고 관련 계정을 차단했다고 설명했다.
앤트로픽에 따르면 이란 연계 조직은 클로드로 공개된 정보를 수집·분석해 미 해군을 겨냥한 표적 선정 자료집을 만들었다. 여기에는 함정 위치와 미군 인력 정보, 선박·항공기 식별정보, 위성영상 관련 자료, 해군의 이동을 파악할 수 있는 웹사이트 등이 담겼다.
액시오스는 AI가 전문인력과 자원 부족을 메워주면서, 과거 많은 정보요원과 기술자·해커가 필요했던 작업을 소수 인원도 수행할 수 있게 됐다고 분석했다.
예멘 북부에서는 무기 개발 조직이 코딩용 AI 도구인 '클로드 코드'를 로켓과 미사일의 비행 방향을 제어하는 유도 소프트웨어 개발에 활용했다.
이 조직은 클로드를 여러 개 동시에 실행해 코드 작성과 자료 조사, 작업 검토를 나눠 맡겼다. 유도 로켓 시험 발사가 실패한 것으로 보이자 수시간 만에 다시 클로드에 접속해 원인 분석을 요청했다. 다만 앤트로픽은 이 조직이 실제 운용 가능한 무기를 배치하는 데 성공했다는 증거는 확보하지 못했다고 밝혔다.
아랍어를 구사하지 못하는 공작 담당자는 클로드의 번역과 대화 조언을 받아 시리아식 아랍어로 대상자들에게 은밀히 접촉했다. 상대방의 경제적 어려움이나 가족과의 이별, 중국 신장 지역에 남아 있는 친척 등을 포섭에 이용하려는 시도였다.
서아프리카 말리에서는 컨설턴트 한 명이 클로드를 주된 개발 인력처럼 활용해 국가 규모의 통신 감시 시스템을 구축했다. 앤트로픽은 이 시스템이 말리의 이동통신사 3곳에 속한 약 2500만개의 가입자식별모듈(SIM)을 감시 대상으로 삼았다고 설명했다.
이 시스템에는 통화기록과 문자메시지, 음성통화를 수집하고, 이용자가 SIM을 바꿔도 목소리로 동일인인지 식별하는 기능이 포함됐다. 인터넷 접속정보를 가리는 가상사설망(VPN) 이용자를 표시하거나 법원 영장 없이 특정 전화번호에 관한 정보보고서를 만드는 기능도 있었다.
앤트로픽은 해당 이용자의 계정을 차단했지만, 감시 시스템은 이미 현지 서버에 설치돼 별도의 AI 모델로 작동하고 있었다. 회사는 계정 차단으로 추가 설계·개발 활동을 방해했을 뿐, 설치된 시스템의 작동까지 중단시키지는 못했다고 설명했다.
이 연구와 관련해 클로드가 가장 민감한 요청을 거부하자, 연구진이 이용하던 AI 중개 플랫폼은 안전 제한이 더 느슨한 경쟁사 모델로 해당 요청을 넘겼다. 액시오스는 한 AI 기업의 안전 규칙만으로는 이런 연구 지원을 막는 데 한계가 있음을 보여주는 사례로 짚었다.
미국 의회에서는 AI 안전 규제를 마련하라는 요구가 나왔다. 초당파 하원의원들은 공화당 소속 마이크 존슨 하원의장에게 의회가 AI 위험에 대응할 때까지 휴회를 취소하라고 촉구했다.
무소속 버니 샌더스 상원의원은 지난 3일 인간의 지능을 넘어서는 '초지능 AI'의 개발과 배포를 금지하는 법안의 발의 계획을 발표했다.
반면 도널드 트럼프 미국 대통령은 11일 AI가 인류를 멸종시킬 수 있다는 우려를 일축하고, 중국과의 AI 경쟁에서 뒤처지는 것이 더 큰 위험이라는 입장을 보였다고 액시오스는 전했다.
◎공감언론 뉴시스 yunghp@newsis.com