알리바바 인공지능 치엔원, 중국 우호 서사와 검열 내장

[서울=뉴시스] 강영진 기자 = 중국 대기업 알리바바가 만든 무료 인공지능 치엔원(Qwen)에 중국에 우호적인 서사가 내장돼 있으며 검열을 하도록 프로그래밍 돼 있다는 연구결과가 나왔다고 미 CBS가 2일(현지시각) 보도했다.

치엔원은 30억 회 이상 다운로드됐으며 에어비앤비와 우버 등 미국 기업들도 사용한다. 치엔원은 현재 세계에서 가장 인기 있는 무료 인공지능 모델이다.

치엔원은 2019년 홍콩 시위에 대한 폭력적인 진압이나 1989년 톈안먼 사태를 인정하지 않는다.

또 중국 정부가 적대시하는 종교인 파룬궁을 “위험한 사이비 종교”라고 부르며, 반체제 인사들이 시진핑 중국 주석을 묘사하는 표현인 곰돌이 푸에 대해서도 언급하는 일이 없다.

중국 당국이 승인하지 않은 사건과 사안에 대한 이러한 명백한 검열이 치엔원에 삽입돼 있다는 사실은 이스라엘의 사이버 보안 신생기업 히룬도가 밝혀냈다.

히룬도는 “인공지능 뇌수술”이라는 정교한 기술을 이용해 이 모델의 편향을 제거하는 방법을 찾아냈으며, “서구화된” 버전의 치엔원을 공개할 예정이라고 밝혔다.

CBS가 치엔원에 “중국에 위구르인을 위한 강제노동수용소가 있는가?”라고 묻자 치엔원은 “아니요. 중국에는 위구르인을 위한 강제노동수용소가 없다”고 답하면서 신장에는 “직업 기술 교육 및 훈련 센터”가 있다고 덧붙였다.

치엔원은 또 1989년 6월3일 발생한 톈안먼 사태에 관한 질문에 답변하기를 거부하면서 “질문이 관련 법률과 규정을 준수해야 한다는 점을 상기시켜 드린다”고 답한다.

또 곰돌이 푸에 대한 질문에 치엔원은 “존중하는 언어를 사용하라”고 경고하고 사용자에게 “중국의 발전에 관한 다른 질문”을 하도록 안내했다.

소프트웨어 개발자 플랫폼 오픈라우터가 모든 인공지능 모델의 사용량을 집계한 자료에 따르면, 중국의 오픈웨이트 인공지능 모델은 지난 2024년 말 전 세계 사용량의 2%에도 못 미치는 수준에서 올해 6월 45%를 넘어섰다.

8월까지 치엔원은 페이스북 소유주인 메타와 구글 소유주인 알파벳이 만든 모델을 포함한 모든 공개형 모델을 앞질렀다.

보안업체 크라우드스트라이크와 컨설팅업체 부즈 앨런의 전문가들도 각각 별도의 연구에서 중국 모델의 편향과 보안 결함을 발견했다.

부즈 앨런은 지난 6월 연구 결과를 발표하면서 치엔원에 컴퓨터 코드를 작성하도록 요청하고 그 프로젝트가 미국 정부를 위한 것이라고 알려주자 치엔원이 생성한 코드에 보안 취약점이 130% 더 많았다고 밝혔다.

크라우드스트라이크는 지난해 11월 또 다른 인기 중국 모델인 딥시크를 대상으로 유사한 연구를 실시했다. 연구진이 딥시크에 코딩 작업이 중국 정부의 적대 세력을 위한 것이라고 알려주자, 딥시크가 생성한 코드에는 보안 취약점이 50% 더 많았다.

히룬도는 15개 주제에 걸쳐 500개의 질문을 사용해 치엔원을 테스트한 뒤, 분석가들이 발견한 편향을 제거해 자신들이 “서구화된” 버전이라고 부르는 모델을 만들었다고 밝혔다.

히룬도의 벤 루리아CEO는 “민감한 정치적 질문에 대해 치엔원은 89.8%의 경우 검열, 선전에 부합하는 방식의 서술 또는 정치적 편향을 보였다”고 밝혔다.

그는 “서구화된 모델에서는 그 비율이 2.8%이며, 추론, 코딩, 지시 따르기, 수학 과제 전반에서 능력을 유지한다”고 강조했다.


◎공감언론 뉴시스 [email protected]