지난달 26일 황희두 노무현재단 이사는 자신의 소셜미디어(SNS) 계정을 통해 "젊은 여성 극우 네임드 계정의 정체가 결국 드러났다"면서 'AI 딥페이크' 기술로 만들어진 조작이었다고 밝혔다.
황 이사는 인스타그램에서 활동하던 한 계정의 사과문 내용을 게시물에서 공유했다. 해당 계정 주인은 "죄송하다는 말씀을 드려야겠다"면서 자신은 사실 남성이었다고 밝혔다. 이 계정은 그간 여성의 얼굴, 비키니 사진을 올리면서 정치적 행보를 보였으며, 현재는 계정 자체가 사라졌다. 황 이사는 "AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다"면서 "단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례"라고 지적했다.
한편 그는 "최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 '멸공', '윤어게인'을 외치던 사례도 있었다"면서 AI 기술 활용 외에도 사진 도용 범죄 역시 빈번하게 이뤄진다고 밝혔다. 황 이사는 지난 3일 태국 인플루언서의 사진을 도용한 계정을 발견했다고 알리기도 했다.
황 이사는 "이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다"라면서 사회의 신뢰를 무너뜨릴 수 있다고 우려했다. 그는 "속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과"라고 덧붙였다.
황 이사는 "인지전은 소수의 조작, 알고리즘 확산, 다수의 노출, 인식 왜곡, 세계관 형성'의 구조로 확산된다"면서 가짜라도 반복적으로 노출되면 사람들은 이를 진실로 받아들일 수 있다고 강조했다. 그는 "(AI 기술 악용, 도용 범죄를) 방치할 경우 민주주의 자체가 무너질 수 있다"고 경고했다.
◎공감언론 뉴시스 jw2000804@newsis.com