…규제 움직임에 대응
![[상하이=AP/뉴시스] 17일 중국 상하이에서 '세계인공지능대회(WAIC)'가 열린 가운데 AI 스타트업 문샷AI의 '키미 K3' 부스가 방문객들로 붐비고 있다. 2026.07.17](https://img1.newsis.com/2026/07/26/NISI20260726_0001457122_web.jpg?rnd=20260726130339)
[상하이=AP/뉴시스] 17일 중국 상하이에서 '세계인공지능대회(WAIC)'가 열린 가운데 AI 스타트업 문샷AI의 '키미 K3' 부스가 방문객들로 붐비고 있다. 2026.07.17
[서울=뉴시스]이재준 기자 = 중국 주요 인공지능(AI) 기업들이 사이버 공격에 악용할 수 있는 기능을 줄이고 방어 능력을 강화한 모델을 잇달아 내놓고 있다.
연합조보와 야후재경, 봉황망(鳳凰網)은 17일 알리바바와 텅쉰(騰訊 텐센트), 문샷AI(月之暗面) 등 중국 주요 AI 개발업체들이 최근 공개한 모델에서 사이버 공격 관련 기능을 제한한 반면 보안 취약점을 찾아내고 공격을 방어하는 기능은 강화했다고 전했다.
매체에 따르면 알리바바는 최신 주력 모델인 큐원4맥스(Qwen4-Max)의 학습 과정에서 사이버 공격에 악용 가능한 데이터를 걸러냈다.
보안 취약점을 탐지하는 방어 기능은 유지했지만 모델의 전체 매개변수인 가중치는 공개하지 않았다. 가중치는 모델이 학습한 내용을 수치로 담은 내부 변수로 공개하면 이용자가 모델을 내려 받아 자체 서버에서 실행하거나 목적에 맞게 수정할 수 있다.
중국 최대 인터넷 서비스 기업인 텅쉰도 이달 하이4(Hy4) 모델을 정식 출시하기에 앞서 학습 과정에서 취약점 공격 코드를 생성하는 데 쓰일 염려가 있는 데이터를 제거했다.
텅쉰은 소프트웨어 취약점 분석과 복구, 역공학, 보안 침투 테스트 등 방어 목적의 사이버 보안 학습 전략과 안전성 평가 절차는 공개했다.
문샷AI는 지난달 23일 출시한 키미 K3.1 프로(Kimi K3.1 Pro)의 사후 학습 과정에서 사이버 공격 관련 자료를 두 단계에 걸쳐 없앴다.
동사가 실시한 내부 사이버 보안 공격 시뮬레이션에서 공격 기능을 제한한 모델 점수는 81.0%로, 제한하지 않은 모델의 90.5%보다 9.5% 포인트 낮았다. 해당 수치는 사이버 보안 관련 특정 평가 결과로 모델의 전반적인 성능이 그만큼 떨어졌다는 의미는 아니다.
AI 개발기업 즈푸AI(智譜)는 8월 오픈웨이트 방식으로 공개한 글램(GLM)-5.3 출시 전 보안 검토를 진행했다.
오픈웨이트 모델은 학습된 가중치를 외부에 공개해 이용자가 다운로드 받아 수정하거나 자체 환경에서 구동할 수 있는 모델이다. 즈푸AI는 검토 과정에서 발견한 보안 취약점을 관련 기관에 통보했다.
이런 조치는 오픈웨이트 모델이 사이버 공격에 악용될 위험이 크다는 우려에 대응한 것이다. 이용자가 모델을 직접 실행하고 기능을 변경할 수 있어 기업이 제공하는 서비스보다 사용을 통제하기 어렵기 때문이다.
딥시크(深度求索) 모델과 알리바바 큐원 시리즈는 세계적으로 많이 내려 받는 오픈웨이트 모델로 꼽힌다.
미국 사이버 보안업체 크라우드스트라이크는 10월 말 보고서를 통해 해커들이 딥시크 모델을 이용해 최소한 14개국의 2000곳 조직을 공격하거나 침투했다고 밝혔다.
당시 해커 조직 베이퍼 판다(VAPOR PANDA)가 딥시크와 아텍스(ARTEX) 프레임워크를 활용해 11일 동안 사이버 공격을 감행했다고 한다.
미국에서도 강력한 사이버 공격 기능을 갖춘 모델의 출시를 제한하는 움직임이 나타나고 있다.
앤트로픽은 지난 4월 운영체제와 웹브라우저, 오픈소스 소프트웨어 등에서 수천 건의 제로데이 취약점을 자율적으로 찾아냈다고 밝힌 클로드 미토스 프리뷰(Claude Mythos Preview)를 일반에 공개하지 않았다.
대신 프로젝트 글래스윙을 통해 신뢰할 수 있는 일부 기관과 기업에만 모델을 제공해 보안 방어에 활용하도록 했다. 제로데이 취약점은 개발자나 보안업체가 아직 파악하지 못해 대응책이 마련되지 않은 보안 결함을 말한다.
중국 정부의 규제 움직임은 AI 기업들에 영향을 미친 것으로 보인다. 상무부와 과학기술부는 지난달 16일 수출 금지·제한 기술 목록 개정안에 대한 의견 수렴에 착수했다.
개정안에는 AI 관련 기술 23개가 포함됐으며 AI를 이용한 악성 코드 생성과 수정·변형 기술 등이 대상에 들어갔다. 주요 기반시설과 정부 전산망, 군사 목표물을 위협할 수 있는 AI 도구의 수출을 제한하고 세계 최고 수준으로 평가되는 대규모 언어모델(LLM)의 해외 배포에도 제약을 두는 내용을 담고 있다.
국가발전개혁위원회도 이달 초 AI 개발업체가 따라야 할 안전 기준과 윤리 지침 마련을 서두르고 있다고 밝혔다. AI 개발 단계부터 안전장치를 내재화하겠다는 취지다.
중국 AI 기업들의 움직임은 기술 경쟁력과 보안 통제 사이에서 균형을 찾으려는 시도로 보인다.
애널리스트는 중국이 AI 기술의 해외 상업화와 전략적 통제 사이에서 균형을 모색하고 있다며 중국 첨단 AI 모델이 사이버 보안 분야에서 미국과 격차를 좁히면서 정부가 관련 기술을 전략적 자산으로 보고 해외 이전을 엄격히 관리하려 한다고 분석했다.
◎공감언론 뉴시스 [email protected]
