AI로 딸깍해 114억 번 유튜버 차단…'더미 영상과의 전쟁' 나선 빅테크들

[서울=뉴시스]윤정민 기자 = #. 직장인 김모(31)씨는 최근 어머니로부터 '놀라운 자연 현상'이라는 이름의 유튜브 영상을 카카오톡으로 전달받았다. 거대한 구름이 마치 사람 얼굴 형상을 한 채 폭풍우를 몰고 오는 장면이었다. "신의 계시다", "자연의 신비다"라는 댓글이 수천개 달렸다. 이에 김씨 어머니도 '놀랍지 않냐'며 지인과 가족에게 영상을 공유한 것이다.

하지만 김씨는 자세히 보니 구름 윤곽과 얼굴 움직임이 부자연스럽게 반복되고 있다는 점이 눈에 띄었다. 알고 보니 생성형 인공지능(AI)이 만든 조작 영상이었다. 김씨 어머니는 조작물이라는 사실에 당황하며 "가짜라니 허탈했다. 주변에 공유한 게 민망하다. 속았다는 불쾌감이 크다"고 말했다.

유튜브, 틱톡 등 주요 플랫폼사가 인공지능(AI) 도구로 저품질 콘텐츠를 대량 생산한 채널들에 칼을 빼들었다. 정보 가치가 없거나 이용자를 기만하는 콘텐츠가 생태계를 흐린다는 판단에 수익 정지, 채널 삭제 등 강경 대응에 나섰다.

7일 업계에 따르면 AI 기반 저품질 영상이 주 콘텐츠인 유튜브 채널 16곳이 최근 폐쇄되거나 활동 정지된 상태다.

이들 채널은 지난해 11월 미국 AI 영상 편집 플랫폼 '카프윙(Kapwing)'이 보고서를 통해 지적한 'AI 슬롭' 채널 목록에 소개된 곳이다. '슬롭(Slop)'은 음식물 쓰레기나 오물을 뜻하는 단어로, 생성형 AI를 이용해 맥락 없이 대량 복제된 저품질 콘텐츠를 'AI 슬롭'이라 부른다.

삭제된 채널로는 대표적으로 구독자 600만여명을 둔 '쿠엔토스 파시난테스(Cuentos Facinantes)'가 있다. 이 채널은 애니메이션 '드래곤볼'을 주제로 한 저품질 영상을 제작해 왔다. 지난해 말 기준 총조회수 약 12억8000만회를 기록하며 266만 달러(약 39억원)를 벌어들인 것으로 집계됐다.

이 채널을 포함해 삭제된 채널 16곳의 동영상 총조회수는 47억회에 달한다. 연간 수익만 약 1000만 달러(약 147억원)로 추산된다.

유튜브의 이번 채널 삭제는 예견된 수순으로 풀이된다. 유튜브가 올해 핵심 목표 중 하나로 AI 슬롭 대규모 차단을 내세웠기 때문이다.

닐 모한 유튜브 최고경영자(CEO)는 지난달 22일 자사 공식 블로그를 통해 올해 4대 핵심 과제 중 하나로 'AI 슬롭 대응'을 꼽았다.

모한 CEO는 "창의성과 기술 간의 경계가 모호해져가는 혁신의 새 시대를 맞이하고 있다. 이런 변곡점에서는 과감한 도전이 필요하다"며 "유튜브는 스팸과 클릭베이트에 대응해 온 기존의 검증된 시스템을 강화해, 저품질·반복형 AI 콘텐츠의 확산을 줄이기 위해 적극적으로 노력하고 있다"고 전했다.

유튜브뿐만 아니라 틱톡 등 글로벌 주요 플랫폼도 AI 슬롭 확산에 적극 대응 중이다. 틱톡은 '생성형 AI 기반 콘텐츠 정책'을 통해 사회적 오해를 유발할 수 있는 콘텐츠 게시를 엄격히 금지하고 24시간 내 유해 콘텐츠를 신속 차단하겠다는 방침을 세웠다.

AI 슬롭 척결 나섰지만…"사람이 만든 영상인데 AI로 오인" 잡음도 나와

플랫폼들이 ‘AI 슬롭과의 전쟁’을 선포한 이유는 AI로 반복·복제된 저품질 콘텐츠가 플랫폼 신뢰도를 훼손하고 있다는 판단 때문이다. 추천 알고리즘이 AI 저품질 영상으로 도배될 경우 이용자들이 플랫폼을 이탈할 수 있다. 또 AI 자동 생성 영상이 급증하면 서버·트래픽 등 운영 비용 부담까지 커질 수 있다.

하지만 초기 진압 과정에서 억울하게 피해를 받았다는 창작자도 나오고 있다. AI 도움 없이 직접 수작업으로 만들어진 콘텐츠가 알고리즘 오탐지로 인해 ‘AI 저품질 콘텐츠’로 분류돼 수익 창출이 정지됐다는 주장이다.

공포·괴담 채널 '괴들남 공포이야기' 운영자 A씨는 뉴시스와의 통화에서 "지난달 28일 돌연 '허위 콘텐츠'라는 이유로 수익 창출 정지 통보를 받았다"며 "자세히 알아보니 내 영상이 'AI를 이용해 쉽게 만들 수 있는 양산형 콘텐츠로 교육적 가치가 없는 콘텐츠'로 분류됐다"고 말했다.

이어 "제작 과정이 담긴 영상 증거 등을 모아 이의제기를 신청했으나 받아들여지지 않았다. 어떤 영상이 규정 위반인지에 대한 구체적인 설명조차 없이 90일 뒤 재신청하라는 안내만 반복하고 있다"고 전했다.

그는 "유튜브 채널 성장에 힘입어 책과 오디오북까지 출시하며 최근 본업을 그만두고 전업 유튜버로 전향했는데 반년 만에 하루아침에 직장을 잃은 사람이 됐다"고 토로했다.

애니메이션 영상을 만들어 구독자 17만여명을 모은 유튜버 B씨도 "정상적으로 제작한 영상이 AI 생성물로 오인 분류됐다. 제작 과정을 영상으로 찍어 이의 신청을 했지만, 한 번 내려진 결정은 번복하기 어렵다는 답변만 받았다"며 "이러한 구조는 플랫폼을 통해 수익을 창출하는 창작자 입장에서 불합리하게 느껴진다"고 말했다.

그는 "유튜브가 AI 활용을 제재하는 정책을 시행하더라도 제재 대상에 해당하지 않는 창작자에게 무고한 피해가 발생하지 않도록 명확한 기준과 충분한 소명 절차가 함께 마련돼야 한다"고 밝혔다.

한편 뉴시스는 지난 5일 유튜브 측에 이에 대한 입장을 물었으나 현재까지 공식 답변이 없다.


◎공감언론 뉴시스 [email protected]