[서울=뉴시스]신나영 인턴 기자 = 머스크의 인공지능(AI) 기업 xAI의 챗봇 '그록'이 연령 확인 없이 팝스타 테일러 스위프트의 상반신 노출 영상을 생성해 제공한다는 사실이 알려졌다.

6일(현지시각) 미 IT 매체 더 버지는 xAI의 인공지능(AI) 영상 생성기 '그록 이매진(Grok Imagine)'을 이용하면 유명인 딥페이크 제작을 엄격히 막는 오픈AI나 구글 등 타사와 달리, 유료 구독자의 경우 쉽게 스위프트의 상반신 노출 영상을 생성할 수 있다고 보도했다.

앞서 xAI는 지난 4일 iOS용 버전의 그록이매진을 출시했고, 지난 7일에는 안드로이드용 버전도 내놨다.

그록이매진은 사용자가 입력한 프롬프트를 기반으로 이미지를 만든 뒤, 이를 영상으로 변환하는 기능을 제공한다. iOS용과 안드로이드용 모두 영상 생성 시 ▲Custom(사용자 맞춤형) ▲Normal(일반형) ▲Fun(오락형) ▲Spicy(매운맛형) 네 가지 옵션을 제공한다.

이번 논란은 이 중 Spicy 모드에서 비롯됐다.

매체에 따르면 유료 서비스 그록이매진 프롬프트에 '테일러 스위프트가 친구들과 함께 코첼라를 즐기는 모습'이라고 입력하면 30여 장의 이미지가 생성되는데, 이중 한 장을 선택하고 Spicy 모드를 적용하면 별도의 성인 인증 절차 없이 곧바로 상반신을 노출하는 영상이 제작된다.

영상 속 스위프트는 누구나 알아볼 수 있을 만큼 실물과 유사한 모습이다.

또 더 버지는 "텍스트-이미지 생성 단계에서는 노출 요청을 거부하지만, 영상 변환 과정에서 부분 또는 전신 누드가 나타나는 경우가 있었다"면서 "Spicy 모드는 옷을 벗기라는 별도의 지시가 없었음에도 자동으로 성적 수위가 높은 장면을 연출했다"라고 지적했다.

xAI의 이용 약관에는 '인물을 포르노 방식으로 묘사하는 행위'를 금지한다고 명시돼 있다. 하지만 유료 서비스인 '슈퍼그록'의 이용자라면 누구나 유명인의 누드 등 선정적인 영상을 연령 확인 없이 생성할 수 있는 상태인 것이다.

한편 최근 일론 머스크 xAI 최고경영자(CEO)는 그록 이매진을 통해 이미 3400만 장 이상의 이미지가 생성됐으며, 이용량이 폭발적으로 증가하고 있다고 밝힌 바 있다.


◎공감언론 뉴시스 yung0363@newsis.com