[서울=뉴시스]고재은 기자 = 인공지능(AI)이 생화학 무기 개발에 악용될 수 있는 연구에 활용한 사례가 확인됐다고 10일(현지 시간) 앤트로픽이 밝혔다. 각국 정부들의 반체제 인사 관리와 중국 기업들의 자사 모델 교육 등에도 앤트로픽의 '클로드'가 불법 활용된 것으로 나타났다.

파이낸셜타임스(FT) 등에 따르면 앤트로픽은 이날 공식홈페이지에 154페이지 분량의 '2026년 9월: 인공지능 오용의 탐지 및 대응' 보고서를 발간했다. 2025년 12월부터 지난 8월까지 생물학적 오용, 사이버 작전, 감시, 재래식 무기 개발 등 7가지 분야에서 AI가 활용된 사례를 소개했다.

앤트로픽은 "클로드 하이쿠·소네트·오푸스 모델이 사용됐다"며 "불법 증류(distillation) 1건을 제외하고 페이블과 미토스급이 사용된 경우는 없었다"고 말했다.

증류는 상위 AI 모델 출력값을 기반으로 새로운 모델을 저렴하게 훈련하는 방식이다. 기술 자체는 합법이지만 최근 중국 기업들이 허가 없이 미국 AI 모델 성능을 대규모 복제하며 미중 간 갈등이 벌어지고 있다.

앤트로픽은 '생물학적 오용' 분야에서 일부 연구자들이 안전장치를 우회하거나 연구 목적을 모호하게 숨긴 채 클로드를 이용했다고 밝혔다. 러시아, 중국, 이란 등 서비스 이용이 제한된 국가와 연관된 사례도 있었다.

서비스 미지원 국가의 한 연구원이 수주 동안 클로드를 이용해 조류 인플루엔자 포유류 적응 실험을 계획했다. 이 과정에서 앤트로픽의 안전 장치는 AI를 가장 성능이 떨어지는 모델로 제한했다.

 앤트로픽은 해당 연구가 백신 개발을 위한 합법적인 목적이었는지, 악의적인 목적이었는지는 확신할 수 없다면서도, "새롭게 떠오르는 생화학적 위험과 대응 방안에 대한 논의가 AI 업계와 정부 사이에서 촉발되길 바란다"고 강조했다.

각국 정부나 단체가 감시 작전을 위해 클로드를 이용한 사례도 있었다. 중국 정부와 연계된 주체는 소셜미디어(SNS) 데이터를 분석해 정치적으로 민감한 인물을 식별하고 감시 대상을 추려냈다. 이란 해커들이 SNS 이용자의 신원을 수집하는 악성 파이어폭스 브라우저 확장 프로그램을 제작·배포한 사례도 있었다.

제이콥 클라인 앤트로픽 위협인텔리전스책임자는 액시오스에 "관련 계정을 모두 차단하고 보안 조치를 강화했다"며 "다만 관련 주체들이 오픈소스 모델로 옮겨가는 경우도 있었다"고 말했다.

앤트로픽은 지난 2월 이후 중국 7개 연구소가 클로드를 이용해 증류 공격을 벌였으며 이를 차단했다고 밝혔다. 특히 일부 중국 연구소는 '환승역'으로 불리는 불법 중개 서비스를 통해 자사 이용자들의 질의를 클로드에 전달한 것으로 파악됐다.

중개 서비스는 중국 밖에서 운영되며 주로 가짜 신원, 도난된 신용 카드 등을 통해 클로드에 접근했다. 문샷은 수천 개의 가짜 계정을 이용해 올해 5월부터 7월까지 2300만 건 이상 대화한 것으로 나타났다. 제3자 판매업체로부터 클로드와의 대화 기록을 구매한 중국 연구소도 있었다.

앤트로픽은 "적은 수의 상호작용으로도 상당한 모델 성능 향상이 가능하다"며 "추출한 정보에 해당 분야에 관한 내용이 거의 없더라도 생물학이나 사이버 공격 등 여러 분야에서 위험한 능력을 확보하는 데 도움이 될 수 있다"고 우려했다.

이 밖에도 러시아, 말레이시아, 이란 등과 연계된 선전 캠페인에 클로드가 동원된 사례가 확인됐다. 예멘 1건, 중국 3건, 러시아 2건 등에서는 총기와 미사일, 무인항공기 등 재래식 무기 개발에 AI를 이용하려는 시도도 있었다.


◎공감언론 뉴시스 jeko@newsis.com