[서울=뉴시스]윤정민 기자 = 정치인의 얼굴이나 목소리를 인공지능(AI)으로 합성한 선거 딥페이크 사례가 한국에서 세계 세 번째로 많이 포착됐다는 조사 결과가 나왔다.

26일 보안업체 서프샤크에 따르면 2020년 1월부터 지난달까지 집계된 선거 관련 딥페이크 분석에서 한국 사례가 16건을 기록했다. 이는 미국(87건)과 인도(19건)에 이어 전 세계에서 세 번째로 높은 수치다.

이번 조사는 46개국에서 언론에 보도된 선거 관련 합성 영상·이미지·음성 사례를 대상으로 했다. AI 사고 데이터베이스, 리셈블 AI, 경제협력개발기구(OECD) 등의 자료를 결합해 대상 국가와 유포 경로 등을 분석했다.

서프샤크에 따르면 한국에서는 2021년 후보자가 자신의 딥페이크 아바타를 선거운동에 활용한 사례가 처음 기록됐다. 이후 정치인을 조롱하거나 비방하는 합성물이 소셜네트워크서비스(SNS)로 퍼지는 모습을 보였다.

전 세계적으로도 선거 딥페이크는 늘고 있다. 서프샤크는 올해 1~9월 보고된 사례가 66건으로 지난해 전체 52건보다 약 27% 많았다고 설명했다.

미국에서는 올해 1~9월 34건이 기록됐다. 예비선거와 11월 중간선거 준비가 이어지는 가운데 대선이 치러진 2024년 전체 28건을 넘어섰다.

선거 딥페이크의 주된 유포 경로는 SNS였다. 특정 SNS 플랫폼이 확인된 사례에서는 엑스(X)가 가장 많이 언급됐다.

국내에서는 딥페이크를 이용한 선거운동에 별도 규제를 적용하고 있다. 공직선거법에 따르면 선거일 전 90일부터 선거일까지 선거운동을 목적으로 딥페이크 영상·음향·이미지를 제작·편집·유포·상영·게시하는 행위를 금지한다. 그 밖의 기간에는 딥페이크를 이용해 선거운동을 할 때 AI로 제작한 가상 정보라는 사실을 명확히 표시해야 한다.

루이스 코스타 서프샤크 리서치 책임자는 "예전에는 그럴듯한 가짜 영상을 만들려면 스튜디오가 필요했지만, 지금은 앱 하나와 몇 분이면 충분하다"며 전국 단위 선거뿐 아니라 지역 선거에서도 같은 수법이 나타난다고 말했다.

이어 SNS에서는 사실 여부가 확인되기 전에 영상 하나가 수백만명에게 도달할 수 있다고 설명했다. 가짜 영상이 감정적 반응을 유발해 비판적으로 판단하는 과정을 건너뛰게 한다는 지적이다.

아울러 "후보자 영상을 보고 놀랐다면 공신력 있는 언론사가 이를 보도하고 있는지 확인해야 한다"며 "보도하는 곳이 없다면 더 퍼뜨리기 전에 기다려야 한다"고 밝혔다.


◎공감언론 뉴시스 alpaca@newsis.com