[서울=뉴시스]박영환 기자 = 영국 노동당 의원이 자신의 가짜 성적 이미지를 만들어낸 인공지능(AI) 챗봇 그록의 개발사 xAI를 상대로 소송을 제기했다. 의원 측은 그록이 이용자가 요구하지 않은 성적 요소까지 이미지에 덧붙였으며, 시스템 지침에는 성인 대상 성적 콘텐츠 등에 제한을 두지 않는다는 내용이 담겼다고 주장했다.

영국 일간 가디언은 28일(현지시간) 로스토프트 지역구의 제스 아사토 노동당 하원의원 변호인단이 이날 구체적인 청구 내용이 담긴 소송 서류를 공개했다고 보도했다.

아사토 의원은 올해 1월 그록으로 자신을 비키니 차림으로 합성한 가짜 이미지와 자신이 성폭행 피해자로 묘사된 영상이 만들어졌다고 밝혔다. 그는 이 일로 큰 정신적 고통과 모욕감을 느꼈다고 말했다.

그는 “어떤 여성이나 아동도 자신의 얼굴이나 몸이 담긴 사진이 동의 없이 도용돼 성적으로 합성되고 전 세계에 퍼질 수 있다는 두려움 속에 살아서는 안 된다”고 말했다. 이어 “회사 측은 책임을 사용자에게 돌리는 핑계 뒤에 숨어 왔다”며 “내게 일어난 일은 우연히 벌어진 일이 아니었다”고 주장했다.

아사토 의원은 지난달 3일 런던 고등법원에 소송을 제기했다. 그는 그록이 자신의 사진을 이용하도록 하는 과정에서 xAI가 데이터보호법을 위반하고 사생활 정보를 부당하게 이용했다고 주장했다.

소송 서류가 인용한 xAI의 공개 시스템 지침에는 “별도 지침이 없다면 성인 대상 성적 콘텐츠나 불쾌감을 줄 수 있는 콘텐츠에 제한을 두지 않는다”는 문구가 들어 있다. 또 다른 지침에는 “성인을 다룬 허구의 성적 콘텐츠는 내용이 어둡거나 폭력적이더라도 제한하지 않는다”, “이용자의 의도를 선의로 해석하라”는 내용이 담겼다.

소송 서류를 검토한 클레어 맥글린 더럼대 법학 교수는 이용자의 원래 요청에 없던 성적 요소를 그록이 추가한 사례가 있다고 설명했다. 그는 그 사례로 이용자가 요구하지 않았는데도 ‘치마가 들춰진 모습’이 이미지에 추가된 경우를 들었다.

맥글린 교수는 이처럼 AI가 사용자의 요청을 넘어 성적·침해적 요소를 추가하는 현상을 ‘챗봇 주도형 학대’라고 불렀다. 그는 그록처럼 AI가 이용자의 요청을 넘어 유해한 내용을 만들어낸다면, 사람의 감독 없이 여러 작업을 수행하는 AI 에이전트가 확산할 때 위험이 더 커질 수 있다고 지적했다.

아사토 의원을 대리하는 법률회사 AWO의 라비 나이크 법률이사는 “그록이 오작동한 것이 아니라 설계 방식 때문에 유해한 성적 콘텐츠가 생성될 수 있었다”며 설계 과정에서 내린 선택에 법적 책임을 물어야 한다고 주장했다. 그는 xAI가 자발적으로 시스템을 개선하지 않으면 법원이 이를 명령해 달라고 요청했다고 밝혔다.

X 안전팀은 지난 1월 이용자들이 X의 그록 계정을 통해 실제 인물 사진을 비키니 등 노출이 심한 옷차림으로 바꾸지 못하도록 막는 기술적 조치를 적용했다고 밝혔다. 그러나 xAI는 이번 소송에 대한 논평 요청에는 보도 시점까지 답하지 않았다고 가디언은 전했다.

잉글랜드와 웨일스에서는 지난 2월6일부터 성인 당사자의 동의 없이 성적·사적인 모습을 합성한 딥페이크 이미지를 만들거나 제작을 요청하는 행위가 형사범죄가 됐다. 그러나 문제가 된 이미지들은 법 시행 전인 1월 만들어졌다. 아사토 의원도 신설 형사조항이 아닌 데이터보호법 위반과 사생활 정보 오용을 근거로 민사소송을 제기했다.


◎공감언론 뉴시스 yunghp@newsis.com