"분노 자극하는 돈벌이 구조"…'AI 혐중 콘텐츠' 확산된 日

[서울=뉴시스]이지우 인턴 기자 = 일본에서 반중 정서가 거세지면서 인공지능(AI)으로 관련 영상이 양산되는 분위기까지 생겼다.

8일 일본 아사히신문은 온라인에서 일본을 칭찬하고 외국인을 비난하는 영상이 급증하고 있는데, 특히 '혐중' 영상이 빠르게 유포되고 있다고 보도했다. 해당 영상들은 대부분 AI로 생성된 이미지와 기계 음성을 담고 있다.

AI 혐중 영상을 하청 받아서 제작했던 20대 남성 회사원 A씨는 "외국인에 대한 원한은 전혀 없었고, 가벼운 마음으로 시작했다"고 밝혔다.

그는 "준비된 대본에 맞춰 AI로 영상 속 이미지를 생성하는 일을 했다"면서 "창작된 이야기라도 시설명, 지명은 실존하는 것으로 설정해야 했다. 시청자 대부분이 고령자이므로 음성은 알아듣기 쉽게 만들어야 한다는 지시도 있었다"고 밝혔다.

이어 "돈을 많이 받았을 때는 한 달에 5만엔(약 46만원)을 벌었다"고 덧붙였다.

A씨는 작업 도중 종종 의구심을 느꼈지만 "그때는 시청자도 창작이라는 사실을 알 것이라고 생각했다"고 말했다.

그러다가 인터넷에서 자신이 만든 영상을 발견했고, 누리꾼들이 내용을 전혀 의심하지 않는다는 사실을 뒤늦게 깨달았다. A씨는 "이 일이 누군가의 사상을 왜곡하고 사회 분열을 낳았을 수 있다는 점을 알았다"면서 "인간으로서 잘못된 일을 한 기분"이라고 토로했다.

아사히신문은 실제로 채널을 운영한 60대 남성 B씨도 인터뷰했다.

전직 공무원이었던 B씨는 정년 퇴직 후 새 일을 물색하다가 유튜브 시장에 뛰어들었다. 혐중 콘텐츠가 유행한다는 사실을 접한 B씨는 본인도 비슷한 영상을 제작하기 시작했다.

그는 "나도 중국인을 싫어했다. 내가 하고 싶은 일과 시청자 수요가 일치했다"면서 활동을 시작한 이유를 밝혔다. 이어 "수년간 허용됐고 다른 사람들도 많이 하고 있는데 이제 와서 문제 삼는 건 이상하다"고 항변했다.

야마구치 신이치 국제대학 교수는 "부정적 감정을 자극할수록 수익으로 이어지는 구조가 혐중 콘텐츠를 낳고 있다"고 지적했다. 그는 "특정 국가나 집단에 대한 반감을 자극하면 사람들의 주의를 끌기 쉽고, 제작자는 수익을 얻는다"면서 시청자의 현실 인식 왜곡을 우려했다.

콘텐츠 중에는 노골적인 차별 표현은 없지만 간접적으로 혐오와 편견을 조장하는 것도 존재한다. 야마구치 교수는 "정책 위반을 아슬아슬하게 피한 콘텐츠에 플랫폼 기업이 적절히 대응할 수 있는지 역시 문제"라면서 더 빠른 규제나 알고리즘 개선 등이 필요하다고 주장했다.


◎공감언론 뉴시스 [email protected]