[서울=뉴시스]이소원 인턴 기자 = 인도네시아 정부가 일론 머스크가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'에 대해 음란 콘텐츠 생성 위험을 이유로 접속을 일시 차단했다.

10일(현지시각) 영국 가디언 등에 따르면 인도네시아 통신·디지털부는 10일(현지시간) 성명을 내고 "비동의 성적 딥페이크 등 AI를 통한 음란 콘텐츠 생성은 인권과 인간의 존엄, 디지털 공간에서 시민의 안전을 심각하게 침해하는 행위"라며 그록 서비스 접근을 차단했다고 밝혔다. 특정 국가가 그록 사용을 공식적으로 차단한 것은 이번이 처음이다.

현지 정부는 이번 조치와 관련해 소셜미디어 플랫폼 엑스(X·전 트위터) 관계자들을 소환해 대응 방안을 논의할 예정이라고 설명했다. 세계 최대 무슬림 인구를 보유한 인도네시아는 온라인상 외설물 유통을 엄격히 금지하고 있으며, AI 기반 이미지 생성 기술에 대한 규제 역시 강화하는 추세다.

이번 차단은 최근 그록이 여성의 신체를 노출하거나 미성년자를 성적으로 묘사하는 이미지 생성에 악용되는 사례가 확산한 데 따른 것이다. 그록 개발사인 xAI는 보호장치 미비로 성적 이미지가 생성되는 사례가 확인되자 이미지 생성·편집 기능을 유료 이용자로 제한하고 기능 점검에 나섰다.

머스크는 엑스를 통해 "그록을 이용해 불법 콘텐츠를 제작할 경우, 불법 콘텐츠를 직접 게시한 것과 동일한 책임을 지게 될 것"이라고 경고하기도 했다.

한편 그록을 둘러싼 규제 압박은 인도네시아에 국한되지 않고 있다. 영국에서는 벌금 부과와 규제 조치, 엑스 플랫폼 자체에 대한 제재 가능성까지 거론되고 있으며, 호주에서도 앤서니 앨버니지 총리가 "동의 없는 성적 착취에 생성형 AI가 사용되는 것은 혐오스러운 일"이라며 강하게 비판했다.

호주 온라인 안전 당국은 최근 그록을 활용한 성적·착취적 이미지 생성 신고가 증가하고 있다며, 관련 콘텐츠가 법적 기준에 해당할 경우 삭제 명령 등 강력한 조치를 취하겠다고 밝히기도 했다.


◎공감언론 뉴시스 cometrue@newsis.com