[서울=뉴시스]박영환 기자 = 가격이 싸고 성능도 좋은 중국산 인공지능(AI)을 쓰면서도 검열·편향과 보안 취약점을 덜어내려는 수요를 겨냥해 AI 모델 내부를 다시 손보는 서방 스타트업들이 등장했다.

미국의 비영리 기술 전문매체 레스트오브월드는 2일(현지시간) 이스라엘 AI 보안업체 히룬도와 미국 라자루스AI 등이 중국산 오픈웨이트 모델을 서방 기업의 요구에 맞게 손보는 사업에 나섰다고 보도했다.

오픈웨이트 모델은 AI가 학습한 결과를 숫자로 저장한 내부 매개변수인 ‘가중치’를 공개한다. 기업이나 개발자가 모델을 내려받아 자체 서버에서 운영하고 용도에 맞게 수정할 수 있다. 딥시크와 알리바바, 문샷AI, 지푸AI 등 중국 기업들이 낮은 비용과 높은 성능, 손쉬운 맞춤 설정을 앞세워 이 시장을 공략해 왔다.

중국산 모델은 AI 모델 공유 플랫폼 허깅페이스에서 다운로드 비중이 가장 큰 집단으로 올라섰다. 에어비앤비와 우버, 법률 AI업체 하비는 중국 모델을 바탕으로 자체 모델을 개발했고, 유럽의 독자 AI 프로젝트 오픈유로LLM도 알리바바 치엔원(Qwen)의 구조를 활용하고 있다.

하지만 확산만큼 보안과 정치적 편향에 대한 우려도 커졌다. 미국 정부는 지난 7월 말부터 민간 연방기관에서 딥시크 제품과 이를 활용해 개발한 기술의 사용을 금지했으며, 이 조치를 10월 공개했다.

히룬도 공동창업자이자 최고경영자(CEO)인 벤 루리아는 딥시크가 지난해 오픈웨이트 대형언어모델을 내놓자 사업 기회를 발견했다고 말했다. 히룬도가 활용하는 ‘머신 언러닝’은 AI가 학습을 마친 뒤 특정 데이터가 모델에 남긴 영향을 줄이거나 제거하는 기술이다.

히룬도는 모델의 가중치를 직접 편집해 중국 당국의 입장에 맞춘 검열과 지정학적 편향을 줄인다고 설명했다. 사이버 공격에 대한 방어력을 높이고 차별적 답변이나 생물무기 등에 관한 위험한 정보 제공도 줄이는 것이 목표다. 루리아 대표는 이를 “매우 정밀하게 특정 부분에만 개입하는 뇌수술”에 비유했다.

중국 모델의 보안 문제를 제기한 외부 연구도 있다. 사이버보안업체 크라우드스트라이크는 딥시크 R1에 중국 정부가 민감하게 여기는 주제가 포함된 지시를 주면 심각한 취약점이 있는 코드를 생성할 가능성이 최대 50% 높아졌다고 밝혔다. 부즈앨런의 별도 실험에서도 여러 중국 모델은 사용자가 미국 정부기관 소속이라고 밝히자 보안성이 더 낮은 코드를 생성했다.

히룬도의 자체 분석에서는 치엔원이 1989년 톈안먼 사태와 2019년 홍콩 시위 진압, 신장 지역 강제노동 수용소의 존재 등 중국의 민감한 정치 문제에 답변하지 않는 것으로 나타났다. 반체제 인사들이 시진핑 중국 국가주석을 빗대 사용하는 ‘곰돌이 푸’에 관한 질문도 피했다.

루리아 대표는 “모델을 반중국적으로 만드는 것이 아니다”며 “안전성을 높이고 서방의 주요 AI가 적용하는 기준에 맞추려는 것”이라고 말했다.

보스턴에 본사를 둔 기업용 AI업체 라자루스AI도 미국 정부와 규제가 엄격한 산업에 공급할 목적으로 치엔원의 검열 응답을 줄인 모델을 만들었다. 유출된 중국 검열 지침에서 금지 주제를 뽑아 관련 질문을 만든 뒤, 구글의 제미나이 플래시가 내놓은 답변을 기준 자료로 삼아 모델을 재조정했다.

라자루스AI에서 최고과학자를 지낸 에릭 하트퍼드에 따르면 재조정된 모델은 별도의 답변 자료에 넣지 않았던 민주화운동가들의 이름까지 제시했다. 그는 이를 두고 원래 모델이 관련 지식을 학습했지만 답변 과정에서 드러내지 못하도록 억제돼 있었다는 뜻이라고 설명했다.

라자루스AI는 이렇게 만든 ‘리얼라인드’ 모델을 “선전이 없는 오픈소스 최첨단 모델”이라고 소개한다. 하트퍼드는 미국 기업 약 12곳이 이 모델을 도입했다고 밝혔다.

그러나 AI를 이른바 서구 가치에 맞추거나 모든 환경에서 안전하게 만드는 것은 “달성하기 불가능한 기준”이라는 반론도 나온다. 킹스칼리지런던의 AI 박사과정 연구원 오리안 피터는 서구 이념이 본질적으로 더 안전하거나 윤리적인 것은 아니라고 지적했다.

피터 연구원은 AI 재정렬이란 특정 문화와 사용 환경에서 원하는 방식으로 답하도록 모델을 조정하는 일이라고 설명했다. 중국 모델을 중국 밖에서 사용할 때도 무조건 서구식으로 바꾸기보다 실제 사용 지역과 목적에 맞춰 조정해야 한다는 것이다.

중국 모델의 답변 거부 기능을 강제로 없애는 이른바 ‘어블리터레이션(abliteration)’ 도구도 늘고 있다. 하지만 루리아 대표는 상당수 도구가 검열과 잘못된 정보를 완전히 제거하지 못한다며 “편향이 모델 내부에 깊이 들어 있어 간단히 없앨 수 없다는 뜻”이라고 말했다.

반대로 세계 각국에서는 미국 AI의 가치관과 관점이 일방적으로 퍼지는 데 대한 경계도 커지고 있다. 아시아와 중남미, 아프리카, 중동 국가들은 자국 언어와 문화를 반영한 독자 AI 개발에 나섰다. 피터 연구원은 실리콘밸리 기업들이 모델의 가치관을 중앙에서 결정하면 AI의 답변과 이용자의 사고가 획일화될 수 있다고 경고했다.

스탠퍼드대 디지차이나 프로젝트의 그레이엄 웹스터 편집장은 재조정의 필요성이 AI의 용도에 따라 크게 달라진다고 말했다. 그는 “대만에서 정치·안보와 관련된 서비스를 운영한다면 더 우려하겠지만, 동네 커피숍 홈페이지를 만들어 주는 서비스라면 중요하지 않을 수 있다”고 설명했다.


◎공감언론 뉴시스 yunghp@newsis.com