[서울=뉴시스] 박영환 기자 = 중국의 한 기술기업이 시민의 이동 동선과 인터넷 사용 기록을 인공지능(AI)으로 분석해 앞으로 정부에 비판적 인물이 될 가능성이 있는 사람을 찾아내는 기술을 개발 중인 것으로 드러났다.

미국 뉴욕타임스(NYT)는 1일(현지시간) 중국 기업 지지네트웍스(Geedge Networks)의 유출 문서를 분석한 밴더빌트대 연구진을 인용해 이같이 보도했다. 이 기술은 아직 연구·개발 단계로 보이며, 실제 완성되거나 배치됐다는 증거는 확인되지 않았다.

지지네트웍스는 중국 당국이 온라인 활동을 통제하는 데 쓰는 감시·검열 체계인 이른바 ‘만리방화벽’의 상업용 버전을 판매하는 회사다. 기존 기술은 인터넷 트래픽을 감시하고, 사용자가 검열 우회 수단을 쓰려 할 때 이를 표시하는 방식으로 작동한다.

하지만 유출 문서에 따르면 이 회사는 위치 정보와 인터넷 사용 기록을 AI로 분석해 특정 시민이 정부를 비판하는 말이나 행동을 할 가능성이 있는지 예측하는 새 제품을 개발하고 있었다.

밴더빌트대 연구진은 지지네트웍스가 정부 지원 연구조직인 메사랩(MESA Lab)과 함께 중국 시민의 프로필을 만들고, AI를 활용해 정치적 위험 인물로 분류될 수 있는 사람을 가려내려 했다고 분석했다.

브렛 J 골드스타인 밴더빌트대 국가안보연구소 위키드프라블럼스랩 소장은 “대중감시가 AI와 만날 때 벌어지는 일”이라며 “견제와 균형이 없다면 중국이 자국민에게 하는 일은 이런 도구들이 통제 없이 확산될 때 어디서든 가능해질 수 있는 일의 예고편”이라고 말했다.

문서에 따르면 지지네트웍스 연구진은 2024년 초 통신, 소셜미디어, 위치 데이터를 바탕으로 사람들의 행동 프로필을 만드는 작업을 하고 있었다. AI 모델은 사람들을 성향별로 분류하고, 중국 당국이 문제 삼는 반정부 의견이나 체제 비판 게시물을 찾아내는 데 쓰였다. 중국 당국은 이런 내용을 흔히 ‘유해 정보’라고 부른다.

2024년 2월5일 열린 한 회의록에는 연구진이 사람들의 프로필을 만들어 “의도를 식별”하고 “유해 정보 발견”을 달성하는 방안을 논의한 내용도 담겼다.

브렛 V 벤슨 밴더빌트대 정치학 교수는 “지지네트웍스 연구팀은 행동 패턴을 기록하는 데 그치지 않았다”며 “시민들이 다음에 무엇을 할지, 누구와 함께할지를 예측하려 했다”고 설명했다.

문서에는 이 회사가 사람들의 실제 이동 경로와 온라인 활동을 연결하려 한 정황도 담겼다. 밴더빌트대 연구진에 따르면 여기에는 사람들이 어떤 영화를 봤는지, 어떤 책을 읽었는지 같은 정보까지 포함됐다.

NYT는 이런 기술이 2002년 영화 ‘마이너리티 리포트’를 떠올리게 한다고 짚었다. 이 영화에서는 정부가 범죄를 저지를 사람을 미리 예측해 범행이 벌어지기 전 체포한다. 중국은 이미 수년 전부터 예측 감시 기술을 추구해 왔지만, 이번 문서는 AI 모델이 이런 기술 개발 속도를 높이고 있음을 보여준다고 NYT는 전했다.

문제는 이런 기술이 중국 내부에만 머물지 않을 수 있다는 점이다. 지지네트웍스의 대규모 유출 문서는 지난해 9월 처음 공개됐으며, 와이어드 등은 이 회사가 에티오피아, 카자흐스탄, 미얀마, 파키스탄 등에 네트워크 보안 소프트웨어를 수출해 모바일 네트워크 대규모 감시를 가능하게 했다고 보도한 바 있다.

 AI 감시 기술은 방대한 통신·위치·영상 데이터를 빠르게 분류하고, 그중에서 당국이 위협으로 볼 대상을 골라내는 데 쓰인다. 이 때문에 고성능 AI칩 접근을 막는 수출통제는 단순한 반도체 규제가 아니라 차세대 감시국가 기술의 확산 속도를 늦추는 수단으로도 작용할 수 있다고 NYT는 전했다.

지미 굿리치 캘리포니아대 글로벌분쟁협력연구소 선임연구원은 “중국 보안기관들은 데이터 과부하에 직면해 있다”며 “AI의 진짜 가치는 데이터를 분류하고 위협을 찾아내는 데 있다. 하지만 이를 대규모로 확장할 수 있는지는 컴퓨팅 파워 접근성에 달려 있다”고 말했다.


◎공감언론 뉴시스 yunghp@newsis.com