[서울=뉴시스]박영환 기자 = 미국 인공지능(AI) 업체 앤트로픽이 중국 알리바바가 자사 AI 모델의 답변 방식 등을 무단으로 모방했다고 주장하며 미 의회에 대응을 요구했다. 문제의 방식은 성능이 뛰어난 AI 모델의 답변을 대량 수집해 다른 모델을 훈련시키는 이른바 ‘증류’다. 그러나 이 기술은 AI 업계에서 10년 넘게 쓰인 방식이고 미국 업체들도 활용해온 관행이어서, 중국 기업을 겨냥한 단속이 실효를 거둘지는 불투명하다.

미국 뉴욕타임스(NYT)는 6일(현지시간) 앤트로픽이 지난달 10일 팀 스콧 공화당 상원의원과 엘리자베스 워런 민주당 상원의원에게 보낸 서한을 입수해 이같이 보도했다.

앤트로픽은 서한에서 알리바바가 무단 계정 수만 개를 통해 자사 AI 시스템에 접속했고, 이렇게 모은 답변 데이터를 자사 AI 모델을 훈련시키는 데 사용했다고 주장했다. 앤트로픽은 두 의원에게 중국 기업들의 무단 증류를 막을 방안을 검토해 달라고 요청했다.

앤트로픽은 서한에서 “이런 증류 공격은 미국 선도 AI 개발사들의 모델 성능과 응답 방식을 불법적이고 조직적인 방식으로 대규모로 빼낸 뒤 자사 모델에 다시 학습시켜 자신들의 기술처럼 내놓기 위해 이뤄진다”고 밝혔다.

미국 AI 업계가 이 문제에 더 민감하게 반응하는 것은 중국의 추격 속도 때문이다. 전문가들은 중국 AI 기술이 미국보다 약 6개월 뒤처져 있다고 평가한다. 앤트로픽 등 미국 업체들은 무단 증류가 없었다면 중국과 미국의 격차가 훨씬 컸을 것이라고 주장한다.

미중 AI 격차가 좁혀질 경우 기업 경쟁뿐 아니라 기업 전략 수립, 신약 개발, 대량 감시, 군사무기 개발 등 핵심 분야에도 영향을 줄 수 있다.

최근 중국 스타트업 지푸(Z.ai)가 공개한 AI 모델 GLM-5.2도 미국 업계의 경계심을 키웠다. 이 모델은 미국 최고 성능 AI 모델에 근접한 수준으로 평가받고 있으며, 특히 미국 AI 기업들과 도널드 트럼프 행정부가 미중 기술패권 경쟁의 핵심 분야로 꼽는 사이버보안 분야에서 미국 모델들과 경쟁할 만한 성능을 보인다고 NYT는 전했다.

증류는 새로 등장한 기술이 아니다. 구글 연구진이 2010년대 초반 더 효율적인 AI 시스템을 만들기 위해 개발한 기술로, 성능이 뛰어난 AI 모델의 응답 패턴과 작동 방식을 바탕으로 더 작고 저렴한 모델을 훈련시키는 방식이다.

노벨 물리학상 수상자인 제프리 힌턴 전 구글 연구원은 “한 모델을 교사, 다른 모델을 학생으로 생각하면 된다”고 설명했다. 성능이 뛰어난 모델의 응답 방식을 새 모델이 따라 배우는 구조라는 뜻이다.

논란은 이 기술이 외부에 공개되지 않은 폐쇄형 AI 모델에 적용될 때 커진다. 오픈소스 모델은 누구나 사용·수정·복제할 수 있도록 공개되지만, 앤트로픽의 클로드나 오픈AI의 챗GPT 같은 고성능 비공개 모델은 이용약관상 이런 방식의 무단 증류를 허용하지 않는다.

하지만 실제 업계에서는 폐쇄형 모델을 대상으로 한 무단 증류가 드물지 않다. 일론 머스크 테슬라 최고경영자(CEO)는 지난 4월 캘리포니아주 오클랜드 연방법원 재판에서 자신의 AI 기업 xAI가 오픈AI 모델을 증류한 적이 있느냐는 질문을 받고 “대체로 AI 기업들은 다른 AI 기업을 증류한다”고 답했다.

이 때문에 이런 무단 증류가 불법인지도 명확하지 않다. 영업비밀 소송을 전문으로 하는 로펌 벡 리드 라이든의 세라 티슐러 파트너 변호사는 NYT에 “분명하지 않다”고 말했다. 일부 법학자들은 폐쇄형 AI 모델을 무단으로 증류하는 행위가 2016년 제정된 미 연방 영업비밀보호법을 위반할 수 있다고 본다.

그러나 법원이 이 행위의 위법성을 분명히 가른 전례는 아직 없다. 저작권법도 곧바로 적용하기 어렵다. 증류는 문장을 그대로 베끼는 것이 아니라 AI 모델이 답하는 방식을 모방하는 데 가깝기 때문이다.

중국 기업들이 실제로 어떤 방식으로 미국 AI 모델의 답변을 수집·활용했는지도 완전히 드러난 것은 아니다. 다만 앤트로픽은 중국과 연결된 계정들이 반복적인 방식으로 자사 폐쇄형 모델에서 나온 답변 데이터를 대량 수집했다고 보고 있다.

이와 별도로 앤트로픽은 지난 2월 중국 스타트업 딥시크 등 3곳이 클로드와 대량으로 대화하게 한 뒤 그 내용을 부적절하게 수집했다고 주장했다. 당시 앤트로픽은 이들 업체가 약 2만4000개 계정을 이용해 클로드 챗봇과 1600만건이 넘는 대화를 생성했고, 이 대화 내용이 자체 챗봇 훈련 자료로 쓰일 수 있었다고 밝혔다.

앤트로픽과 오픈AI, 구글은 이런 행위를 막기 위해 관련 정보를 공유하고 있다. 그러나 차단은 쉽지 않다. 의심 계정을 지나치게 많이 막으면 정상 이용자까지 배제할 수 있기 때문이다. 법적 대응에도 한계가 있다. 티슐러 변호사는 “이런 행위의 상당 부분은 미국 밖에서 벌어진다”며 “미국 법원을 통해 대응하기는 매우 어려울 것”이라고 말했다.

앤트로픽은 의회에 미국 정부와 선도 AI 개발사, 개발사들끼리 협력을 확대할 수 있도록 하는 법안을 통과시켜야 한다고 요구했다. 또 중국 기업들이 AI 훈련에 필요한 첨단 반도체를 확보하지 못하도록 수출통제를 확대해야 한다고 주장했다. 알리바바는 앤트로픽의 서한에 대한 논평을 거부했다. 워런 의원도 논평하지 않았고, 스콧 의원은 NYT의 질의에 답하지 않았다.

다만 전문가들 사이에서는 중국 기업들의 무단 증류를 단속해도 효과가 제한적일 것이라는 전망이 나온다. 증류만으로는 GLM-5.2 같은 최상위 AI 모델을 만들기 어렵다는 이유에서다. AI 연구소 어댑션의 사라 후커 최고경영자는 ‘AI 에이전트’처럼 다른 프로그램을 직접 조작해 업무를 수행하는 모델이 확산하면 “다음 AI 시대에는 증류가 지금만큼 중요하지 않을 수 있다”고 말했다.


◎공감언론 뉴시스 yunghp@newsis.com