'윤어게인' 외치던 20대 女 인플루언서는 '조작'?…"눈으로 구별 힘든 AI"

[서울=뉴시스]이지우 인턴 기자 = 인공지능(AI) 기술이 발전하는 가운데, AI를 활용해 정치적 메시지를 퍼뜨리는 사례도 나타났다.

지난달 26일 황희두 노무현재단 이사는 자신의 소셜미디어(SNS) 계정을 통해 "젊은 여성 극우 네임드 계정의 정체가 결국 드러났다"면서 'AI 딥페이크' 기술로 만들어진 조작이었다고 밝혔다.

황 이사는 인스타그램에서 활동하던 한 계정의 사과문 내용을 게시물에서 공유했다. 해당 계정 주인은 "죄송하다는 말씀을 드려야겠다"면서 자신은 사실 남성이었다고 밝혔다. 이 계정은 그간 여성의 얼굴, 비키니 사진을 올리면서 정치적 행보를 보였으며, 현재는 계정 자체가 사라졌다. 황 이사는 "AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다"면서 "단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례"라고 지적했다.

한편 그는 "최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 '멸공', '윤어게인'을 외치던 사례도 있었다"면서 AI 기술 활용 외에도 사진 도용 범죄 역시 빈번하게 이뤄진다고 밝혔다. 황 이사는 지난 3일 태국 인플루언서의 사진을 도용한 계정을 발견했다고 알리기도 했다.

황 이사는 "이 방식은 단순한 관심 유도가 아니라, 가짜 여론을 만들어내는 전형적 프로파간다"라면서 사회의 신뢰를 무너뜨릴 수 있다고 우려했다. 그는 "속는 사람이 꽤 많다. 개인 판단력 문제가 아니라 반복 노출과 알고리즘 증폭을 통해 설계된 인지 환경의 결과"라고 덧붙였다.

황 이사는 "인지전은 소수의 조작, 알고리즘 확산, 다수의 노출, 인식 왜곡, 세계관 형성'의 구조로 확산된다"면서 가짜라도 반복적으로 노출되면 사람들은 이를 진실로 받아들일 수 있다고 강조했다. 그는 "(AI 기술 악용, 도용 범죄를) 방치할 경우 민주주의 자체가 무너질 수 있다"고 경고했다.


◎공감언론 뉴시스 [email protected]