"AI 딥페이크 영상 빠르게 유포해 민주주의 파괴"-NYT

[서울=뉴시스] 강영진 기자 = 인공지능(AI)이 각국의 선거 결과에 큰 영향을 미치면서 민주주의를 훼손하고 있다고 미 뉴욕타임스(NYT)가 26일(현지시각) 보도했다.

무료로 쉽게 사용할 수 있는 AI 도구들 때문에 후보자나 지지자가 하지도 않은 말을 하거나 가보지도 않은 장소에 있는 것처럼 보이게 하는 가짜 사진과 동영상이 대량으로 만들어져 크게 확산했다.

이로 인해 사회적, 정파적 갈등이 증폭되면서 독일, 폴란드, 포르투갈 등의 최근 선거에서 극우 세력의 반정부 성향을 한층 강하게 만들었다.

루마니아에서는 러시아가 AI를 이용한 영향 작전을 펼치면서 대선 투표 결과가 왜곡되면서 새로 선거를 실시했으나 이번에도 조작된 영상으로 인한 파문이 일었다. 

전문가들은 AI 기술이 선거에 대한 신뢰를 훼손하고 민주주의가 작동하는데 필수적인 정치적 합의를 파괴하고 있다고 경고한다.

루마니아 국립 정치 및 행정대학의 마달리나 보탄 교수는 AI의 조작 메카니즘이 매우 정교해 단시간 내 콘텐츠를 확산한다며 AI와 경쟁해 승리하는 것이 사실상 불가능한 일이라고 지적했다.

스위스 국제정보환경위원회는 이례적으로 각국 선거가 많았던 지난해 모든 선거의 80% 이상에서 AI가 사용됐다고 밝혔다.

모든 AI 사용이 악의적인 것은 아니었으나 딥페이크 등 전체 사례의 69%에서 AI가 악용된 것으로 나타났다.

AI를 악용한 대표적 사례가 러시아, 중국, 이란 등 권위주의 국가들이 외국 선거에 개입한 일이다.

이들 독재국가들은 자국에 유리한 외국 후보자들에 대한 지지를 증폭하거나 민주주의 체제를 열등한 정치 체제로 깎아 내리는데 AI를 적극 활용했다.

러시아는 지난달 폴란드 대선에서 반 우크라이나 정서를 조장하려 시도했으며 우크라이나 난민이 많은 폴란드의 우크라이나가 방해하려 시도한다는 가짜 영상을 만들어 유포했다.

과거에도 이들 국가들은 외국 선거에 개입을 시도했으나 비용이 많이 들고 난이도가 높아 크게 성공하지 못했다.

그러나 AI 덕분에 비용과 난이도가 크게 줄었다.

미드저니의 이미지 생성 도구나 구글의 AI 오디오·비디오 생성기 베오 등이 생성한 이미지들은 스마트폰 화면을 빠르게 넘기는 사람이 진짜와 조작물을 구분하지 못하게 만든다.

이로 인해 정부, 기업, 연구자들이 갈수록 정교해지는 조작 캠페인을 추적하기가 힘들어지고 있다.

페이스북, X, 유튜브, 틱톡 등 주요 소셜미디어 플랫폼들은 AI 오용 규제 정책을 운영한다. 그러나 사용자들이 이용을 많이 할수록 이익이 커지는 회사들이 충분히 규제할 것으로 기대하기 어렵다,

AI로 생성한 위장 소셜 미디어 계정들이 쉽게 탐지되지 않는 것도 큰 문제다.

오픈AI는 지난 2월 독일 선거에서 러시아가 챗GPT를 사용해 선거에 영향을 미치려한 시도를 탐지했다고 발표했다. AI로 생성한 X 계정이 2만7000명의 팔로워를 확보해 극우 독일대안당(AfD)을 지지하는 콘텐츠를 게시했다는 것이다.

또 지난해 11월 루마니아 대선에서는 무명의 극우 칼린 제오르제스쿠 후보가 틱톡 등을 활용한 러시아의 비밀 지원 덕분에 선두 주자로 떠올랐다.

루마니아 법원이 지난달 재선거를 명령했고 제오르제스쿠 후보는 형사 소추 대상이 되면서 출마가 금지됐다.

그를 대신해 출마한 조르제 시미온 후보를 지원하기 위해 도널드 트럼프 미 대통령이 루마니아 현 정부를 비난하는 조작된 동영상이 유포되기도 했다.

이와 관련 유럽연합(EU)가 틱톡이 허위 정보 감시를 제대로 했는지를 조사하고 있다.

미국의 비영리 AI 연구단체인 CivAI의 루카스 한센 설립자는 AI의 피해가 단순한 딥페이크 영상 유포를 넘어 공공 담론을 혼란에 빠트림으로써 유권자들이 정치에 환멸을 느끼도록 만들고 있다고 지적했다.


◎공감언론 뉴시스 [email protected]