[서울=뉴시스]최은수 기자 = "이제는 진짜 뉴스인지 가짜인지 구분이 안 됩니다. 선거철 조작과 선동에 쓰일 수 있다는 게 무섭죠."

6·3 지방선거를 사흘 앞둔 31일, 생성형 인공지능(AI)으로 정교하게 제작된 5·18민주화운동 관련 가짜 신문이 사회관계망서비스(SNS)를 통해 급속히 번지면서 유권자들의 혼란이 극에 달하고 있다.

스타벅스코리아의 '탱크데이' 마케팅 논란을 계기로 전두환 전 대통령 이미지를 합성하거나 5·18을 조롱하는 AI 제작 영상이 SNS에 확산된 데 이어, 이번에는 과거 신문을 통째로 복제한 정교한 허위 지면까지 등장하는 등 AI를 동원한 역사 왜곡이 선거 국면의 새로운 변수로 떠오르고 있다.

최근 온라인에서는 광주일보 제호를 사칭해 '북한군 광주 투입', '무기고 탈취'라는 허위 내용을 담은 AI 합성 이미지가 확산했다. 해당 이미지는 1980년 5월 당시 신문 지면 형식을 그대로 모방해 실제 기사처럼 보이도록 제작됐다.

특히 가짜 신문에 적힌 발행일 1980년 5월 20일은 전남매일신문·전남일보 기자들이 신군부의 언론 검열에 항의해 집단 사직서를 제출하고 제작을 거부한 날과 겹치면서 역사 왜곡 논란은 커졌다.

이에 5·18기념재단과 광주일보가 공동으로 5·18특별법 위반·정보통신망법상 명예훼손·업무방해 등 혐의로 광주경찰청에 고소장을 제출했다.

이 같은 AI 허위정보에 유권자들 사이에서도 우려의 목소리가 커지고 있다.

부산에 거주하는 직장인 정승호(33)씨는 "당시 세대가 아니라 과거 신문이 어떻게 생겼는지 자세히는 모르지만, TV나 온라인에 떠도는 과거 자료들과 비슷하게 생겨 의심 없이 받아들이고 충분히 속을 만한 것 같다"고 말했다.

이어 정씨는 "선거가 코앞이라 후보의 계획 홍보가 아닌 상대방을 비방하는 내용들은 일단 의심부터 하게 된다"고 덧붙였다.

서울 송파구에 거주하는 회사원 서모(32)씨는 "성인 입장에선 말이 안 되는 가짜뉴스란 걸 알지만 10대 청소년들은 충분히 혼란을 겪고 선동당할 것 같다"며 "AI 발전으로 가짜뉴스 퀄리티가 너무 높아져 별도의 사실 검증이 필요할 것 같다"고 우려했다.

◆37개 계정 추적, 50대 유포자 입건…10·20대 놀이문화 변질

경찰은 본격적인 수사에 착수했다.

경찰청 국가수사본부는 SNS 등을 통해 '5·18특별법' 위반 허위사실을 유포한 37개 계정에 대해 입건 전 조사에 착수했다. 지난 22일 이후 현재까지 문제성 게시글 240건에 대한 삭제·차단도 플랫폼 측에 요청한 상태다.

광주일보의 신고로 수사에 착수한 광주경찰청 사이버범죄수사대는 허위 이미지를 게시한  50대 여성 A씨를 5·18민주화운동법·명예훼손·업무방해 등 혐의로 입건했다. 경찰은 휴대전화 등 압수물 분석을 통해 A씨가 허위 신문 이미지의 최초 제작자인지, 공범이 있는지 등을 수사하고 있다.

A씨는 "누군가 올린 사진을 가져온 것"이라며 "댓글 반응이 궁금해 게시했다"는 취지로 진술한 것으로 알려졌다.

현행 5·18특별법은 허위사실 유포 시 5년 이하의 징역형에 처하도록 무겁게 규정하고 있어 처벌 규정 자체는 명확하다. 하지만 유포자 상당수가 10·20대로 SNS에서 놀이문화처럼 콘텐츠를 퍼 나르는 경우가 많아 법적 경각심 없이 이뤄진 행위를 어느 수위로 처벌할지 수사기관의 고심이 깊어지고 있다.

◆제작자는 오리무중…AI 워터마크가 고의성 가를까

수사기관은  '고의성 입증'과 '최초 제작자 추적'에 어려움을 겪고 있다.

이번 사건 고소를 대리한 정다은 변호사는 "메타 플랫폼은 AI로 제작된 콘텐츠에 자동으로 마름모 워터마크를 부착하는 시스템을 갖추고 있고, 이 사건 이미지에도 해당 표시가 있었다"며 "이를 근거로 유포자들의 고의성을 주장하고 있다"고 밝혔다.

또한 "조작이라고 한다", "조작인지 살펴보자"는 유보적 표현도 대법원 판례상 전체적인 취지가 허위사실 전파에 해당하면 처벌을 피하기 어렵다는 주장이다.

전문가들은 생성형 AI 기술 발전 속도를 현행 법·제도가 따라가지 못하고 있다고 지적한다.

송봉규 한세대 IT학부 융합보안학과 교수는 "최초 제작자를 추적하려면 해외 플랫폼 협조와 국제 공조가 필수인데 시간이 많이 걸린다"며 "워터마크 정보 자체를 삭제·변조하는 AI도 등장해 기술적 추적도 한계가 있다"고 말했다.

국내 수사기관이 구글·메타·엑스(X) 등 해외 IT 기업에 계정 정보나 삭제를 요청해도 실질적인 이행을 기대하기 어려운 게 현실이다. 미국 빅테크 기업들은 자국의 '통신품위법(CDA) 제230조'에 의거해 제3자가 올린 콘텐츠에 대한 면책권을 보장받으며, 이를 '표현의 자유'라는 헌법적 가치로 방어하고 있기 때문이다.

김명주 서울여자대학교 정보보호학과 교수는 "선거운동 마감 직전 AI 가짜뉴스가 확산하면 반박할 시간조차 없어 선거 결과가 뒤집혀도 돌이킬 방법이 없다"고 경고했다.

이어 "기술적 워터마크 삭제 AI까지 등장한 상황에서 법과 규제만으로는 한계가 명확하다"며 "결국 시민들이 스스로 비판적 필터링을 작동시키는 시민 윤리 제고만이 선거판 AI 공작을 막을 최종 방어벽"이라고 강조했다.


◎공감언론 뉴시스 eschoi@newsis.com