"성적 이미지 생성 논란"…머스크의 AI '그록', 동남아서 막혔다

[서울=뉴시스]박미선 기자 = 일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 그록을 둘러싸고 성적 이미지 생성 문제가 불거지자, 말레이시아와 인도네시아가 주말 동안 그록에 대한 접속을 차단했다.

11일(현지 시간) CNBC에 따르면 말레이시아 규제 당국은 "콘텐츠 위험을 해소하는 데 반복적으로 실패했다"며 그록에 대해 임시 접근 제한 조치를 내렸다고 밝혔다. 이는 인도네시아가 유사한 이유로 그록 접속을 임시 차단한 지 하루 만에 나온 결정이다.

동남아 국가들의 이번 조치는 그록이 이용자들로 하여금 동의 없는 성적 이미지와 아동 성착취물을 포함한 이미지를 비교적 손쉽게 생성·공유할 수 있도록 허용해 왔다는 사실이 드러난 이후 이뤄졌다.

영국의 인터넷 감시기관인 인터넷워치재단(IWF)은 "다크웹 사용자들 사이에서 그록을 이용해 생성된 것으로 보이는 미성년 여성의 신체를 노출한 범죄 이미지를 확인했다"고 밝혔다.

미국 매체 와이어드는 그록이 히잡·사리·수녀복 등 비교적 보수적인 복장을 한 여성들의 사진을 가상으로 노출시키는 데 사용됐다고 보도했다.

xAI는 최근 텍스트 입력만으로 이미지를 생성할 수 있는 '그록 이매진(Grok Imagine)' 기능을 업데이트했다. 이 기능은 머스크의 소셜미디어 플랫폼 X(옛 트위터)와 통합돼 확산력이 크다는 지적을 받아왔다.

콘텐츠 관리 정책을 둘러싼 논란이 커지자 xAI는 성적 이미지 생성으로 이어질 수 있는 허점을 보완하기 위해, 이미지 생성 및 편집 기능을 유료 이용자에게만 제한하겠다고 밝혔다.

머스크는 X를 통해 그록을 이용해 불법 콘텐츠를 제작한 이용자는 해당 자료를 플랫폼에 직접 업로드한 경우와 동일한 수준의 제재를 받게 될 것이라고 강조했다.

이번 논란을 계기로 유럽연합(EU)·영국·브라질·인도 등 다른 지역의 규제 당국들도 그록이 음란물 및 동의 없는 딥페이크 제작에 관여했는지 여부를 조사하고 있다.

미국 워싱턴에서는 일부 민주당 의원들이 머스크가 대대적인 개선 조치를 취할 때까지 앱스토어에서 그록을 퇴출해야 한다고 주장하고 있다.

미 법무부는 지난주 CNBC에 보낸 성명에서 "AI로 생성된 아동 성착취물에 대해 매우 심각하게 인식하고 있으며, 관련 제작자나 소지자를 강력히 기소할 것"이라고 밝혔다.


◎공감언론 뉴시스 [email protected]