만리방화벽 중국 기업 "미래 반체제 인사를 찾아라"

[서울=뉴시스] 강영진 기자 = 지난 2002년 공개된 미국 공상과학 영화 “마이너리티 리포트(Minority Report)”는 미래를 예지하는 선지자들을 통해 범죄가 발생할 것을 예측하고 범죄자를 사전에 체포하는 프리 크라임(pre-crime) 팀이 등장한다.

이 영화는 팀의 리더(톰 크루즈 역)가 살인범으로 예측되자 체포를 피해 예측 시스템이 잘못됐음을 밝혀내려 사투를 벌이는 상황을 묘사했다. 미래 기술이 디스토피아적 상황을 만들어낸다는 설정이다.

이처럼 공상과학 영화에서나 볼 법한 미래 범죄 예측 기술을 중국 인공지능 기업이 개발하고 있다고 미 뉴욕타임스(NYT)가 1일(현지시각) 보도했다.

개발되는 기술은 그러나 일반 범죄자가 아닌 미래에 반체제 인사가 될 수 있는 사람들을 예측하는데 초점이 맞춰져 있다. 

지엣지 네트웍스(Geedge Networks)라는 이 중국 기업은 온라인 활동을 통제하는 데 사용하는 감시 및 검열 소프트웨어인 만리방화벽을 판매하는 회사다.

미 밴더빌트대 연구자들에 따르면, 이 회사는 위치 데이터와 인터넷 사용 내역을 인공지능으로 분석해 정부를 비판하는 행동이나 발언을 할 수 있는 사람을 찾아내는 소프트웨어를 개발하고 있다.

권위주의 정권이 반체제 활동을 억압하기 위해 인공지능을 사용한다는 발상 자체가 충분히 우려스럽지만 나아가 반체제 활동이 실제 행해지기 전에 미리 예측하는 상황은 최악의 시나리오가 아닐 수 없다.

밴더빌트 연구자들은 지엣지가 정부 지원 연구 부서인 메사 랩(MESA Lab)과 협력해 중국 시민들의 프로파일을 생성한 뒤 인공지능을 사용해 누가 정치적 위험을 초래할 수 있는지 부각하는 기술을 개발하고 있음을 확인했다.

그러나 이 기술 개발은 미국의 인공지능 반도체 수출 통제로 인해 어려움을 겪고 있는 것으로 보인다.

지앳지가 반체제 인사 예측 프로그램을 개발하고 있다는 정보는 지난해 9월 처음 공개된 지엣지의 문서 10만 건 등 방대한 데이터를 분석한 결과 나왔다.

지엣지 문서에 따르면 이 회사 연구자들이 지난 2024년 초 몇 달동안 소셜미디어와 위치 데이터를 기반으로 사람들의 행동 프로파일을 개발하고 인공지능으로 분류해 “유해 정보를 탐지”했다. “유해 정보”는 중국 공산당이 반체제 활동 등 억압하고 싶은 대상들을 지칭하는 완곡한 표현이다.

연구자들은 특히 2024년 2월5일 한 회의에서 사람들의 "의도를 파악하고" "유해 정보를 발견"하기 위해 프로파일을 구축하는 방법을 논의했다.

문서는 이 회사 연구팀이 사람들이 어떤 영화를 보고 어떤 책을 읽었는지를 포함한 다른 온라인 활동과 물리적 이동을 연결하는 작업을 하고 있었음을 시사한다.

지엣지의 연구는 다른 중국 기업 고랙시(GoLaxy)의 작업과 유사했다.

고랙시는 중국 정부가 지지하는 주제를 홍보하고 반대하는 견해에 맞서는 표적 선전을 퍼뜨리는 인공지능 기반 소프트웨어를 개발해온 회사다.

미 당국자들에 따르면 지엣지가 예측 기술을 완성하거나 배포했다는 증거는 아직 없다.

그러나 당국자들은 중국 기업들이 감시 국가를 정밀 조정하기 위해 그런 기술을 향해 나아가고 있음을 확인했다.

또 전문가들과 정부 당국자들에 따르면 중국의 공안 기관들이 인공지능 딥시크를 활용해 예측적 치안 기술을 개발하는데 경쟁적으로 달려들고 있다.

미국 당국자들은 지엣지 등 중국의 감시 기업들이 예측 프로그램을 개발하는데 필요한 연산 능력을 충분히 보유한 것으로 평가한다.

다만 예측 프로그램을 운영하려면 전화 도청 자료와 감시 영상 등을 통합해야 하는데 이는 엄청난 연산 능력을 필요로 하게 된다.

NYT는 이에 따라 예측 프로그램 실행을 막기 위해 미국의 대중국 첨단 인공지능 반도체 수출 통제가 중요하다고 강조했다.


◎공감언론 뉴시스 [email protected]