앤트로픽 AI 차단한 트럼프…'기준 없는 규제' 논란

[서울=뉴시스]박미선 기자 = 도널드 트럼프 미국 행정부가 앤트로픽의 최신 인공지능(AI) 모델을 국가안보 위험으로 규정하고 출시 직후 사용을 중단시키면서, 업계에서는 정부의 AI 규제 기준과 절차가 지나치게 불투명하다는 비판이 제기되고 있다.

21일(현지 시간) CNN에 따르면 트럼프 행정부는 앤트로픽의 최신 AI 모델인 '미토스'와 공개 버전인 '페이블5'에 대한 수출 통제 조치를 내렸다. 이에 따라 일부 앤트로픽 직원들조차 해당 모델을 사용할 수 없게 됐다.

트럼프 행정부는 모델의 내부 안전장치를 우회하는 이른바 '탈옥(jailbreak)' 기법이 발견됐으며, 이를 통해 해커들이 강력한 사이버 공격 도구를 확보할 수 있다고 주장했다. 앤트로픽은 정부 지시에 따라 이달 초 미토스와 페이블5에 대한 접근을 전면 중단했다.

그러나 앤트로픽은 해당 취약점이 다른 AI 모델에서도 발견되는 일반적인 수준이며, 이번 조치는 과도한 대응이라고 반박하고 있다.

이번 사태는 미국 AI 규제 체계의 불확실성을 보여주는 사례로 평가된다. 전문가들은 국가안보와 관련된 AI 안전 문제에 정부가 개입할 필요성에는 공감하면서도, 규제 판단 과정이 투명하지 않다는 점을 문제로 지적하고 있다.

조지워싱턴대 정부조달법 부학장인 제시카 틸립먼은 "정부가 재량권을 행사한 것 자체가 문제는 아니다. 국가안보는 그런 권한을 요구한다"면서도 "충격적인 것은 의미 있는 절차가 사실상 존재하지 않는다는 점"이라고 지적했다.

실제로 앤트로픽은 정부가 국가안보 우려의 구체적인 근거를 설명하지 않았으며, 모델 서비스를 중단하라는 통보를 받고 단 90분 만에 대응해야 했다고 주장했다.

이에 사이버보안 연구자와 AI 기업인, 업계 경영진 수십 명은 공개서한을 통해 "향후 AI 위험 평가 과정은 개방적이고 과학적이며 투명하게 이뤄져야 한다"며 정부 조치를 비판했다.

이번 논란은 앤트로픽이 군사용 AI 안전장치 수정 요구를 둘러싸고 미 국방부와 갈등을 빚은 이후 발생했다. 당시 국방부는 앤트로픽을 '공급망 위험'으로 지정하며 사실상 블랙리스트에 올렸다.

현재 앤트로픽과 행정부는 문제 해결을 위한 협상을 진행 중이다. 트럼프 대통령은 최근 G7 정상회의에서 "협상이 순조롭게 진행되고 있다"고 밝혔으며, 이후 액시오스 인터뷰에서는 "지금은 앤트로픽을 국가안보 위협으로 보지 않는다"고 말했다.

업계에서는 이번 사태가 특정 기업을 넘어 향후 미국 AI 규제의 선례가 될 수 있다는 우려도 나온다. 명확한 기준 없이 정부가 개별 기업과 모델에 대해 규제 권한을 행사할 경우 미국의 AI 경쟁력과 혁신을 저해할 수 있다는 지적이다.


◎공감언론 뉴시스 [email protected]