"딥페이크 악용 막기 위해 플랫폼 접속 차단? 부작용 고려해야"

[서울=뉴시스]윤정민 기자 = 딥페이크(인공지능 기반 이미지 합성 기술) 성범죄 확산을 막기 위한 방안 중 하나로 플랫폼 규제 강화가 논의되고 있다. 플랫폼 사업자가 딥페이크 범죄를 방조하고 있다는 전제에서다. 그러나 학계에서는 국내외 플랫폼 규제 역차별 등 부작용이 있을 수 있다며 법안 실효성에 대한 면밀한 점검이 필요하다는 주장이 나왔다.

이소은 국립부경대 미디어커뮤니케이션학부 교수는 5일 오후 국회 과학기술정보방송통신위원회가 연 딥페이크 성범죄 근절 긴급 토론회에서 "플랫폼 책무 부과가 산업계에 미치는 부작용을 고려할 필요가 있다"며 이같이 밝혔다.

최근 딥페이크 성범죄물이 텔레그램을 통해 확산되면서 플랫폼 책임 강화론이 나오고 있다. 딥페이크 음란물 생성·유통되는 데 플랫폼 기업도 어느 정도 책임이 있다는 이유다.

최진응 국회입법조사처 입법조사관도 이날 토론회에서 호주 '온라인안전법'을 사례로 들며 "유튜브, 소셜미디어 플랫폼뿐만 아니라 메신저 앱까지 포함해 규제한다. 불법 정보 삭제 조치하지 않을 때 정부가 시정명령 내리고, 따르지 않으면 벌금을 부과한다. 벌금 부과 후에도 지속적 위반 시 접속 차단 조치한다"며 "(우리도) 접속 차단할 수 있는 법적 근거를 두는 방안에 대해 국회에서 논의가 필요하다"고 주장했다.

'딥페이크 성범죄영상물 현황 및 대응 전략'을 주제로 발제한 이 교수는 "딥페이크 악용 이미지를 삭제하거나 업로더 활동 금지, 관련 커뮤니티 폐쇄, 관련 검색어 금지 등 플랫폼 사업자의 자율규제가 필요하다"고 말했다.

하지만 플랫폼 책무 강화를 명문화하는 건 신중히 해야 한다고 주장했다. 현재 해외에 입법된 딥페이크 성범죄물 유통 관련 법안을 보면 "불법 딥페이크 영상물 제작자보다 딥페이크 영상물이 유통될 가능성이 있는 서비스, 콘텐츠, 플랫폼 사업자를 직접 겨냥하고 있다"고 말했다.

실제로 유럽연합(EU)은 인공지능(AI) 시스템 위험 해소를 위해 플랫폼 사업자에 의무를 부과한 'AI법'을 지난 4월 제정했다. 콘텐츠 유통·서비스에 관여하는 사업자에게 콘텐츠 관련 위험 해소 의무를 부과한 디지털서비스법(DSA)도 시행 중이다.

이 교수는 "(이러한 대응책이) 정말로 효과가 있는지에 대한 연구 결과가 없다. 플랫폼 책무 부과를 뒀을 때 산업계에 미치는 영향력은 무엇인지에 대해 꼼꼼한 연구가 필요하다"며 "'냄비 입법'이 아니라 실효성 있는 법안이 발의돼야 한다"고 강조했다.

이어 "성범죄 처벌 필요성이 젠더 갈등으로 번지지 않도록, 딥페이크에 대한 담론이 기술의 악용 가능성을 현저하게 하거나 사회적 불신을 강화하지 않도록 차분한 논의가 필요하다"고 말했다.

아울러 "딥페이크를 통한 음란 영상물 제작은 성범죄라는 인식 확립이 중요하다"며 "음란물 제작과 배포가 학교폭력이고 성범죄라는 사실을 명확히 교육해야 한다"고 강조했다.

한편 이번 토론회에는 과방위 위원뿐만 아니라 강도현 과학기술정보통신부 2차관, 국회입법조사처, 메타코리아, 방송통신위원회, 방송통신심의위원회, 학부모정보감시단 관계자도 참석했다.

플랫폼 측 대표로 참석한 허욱 페이스북코리아 대외정책 부사장은 "190개국 이상에서 서비스를 제공하는 사업자로서 현지 국가 법률을 준수하면서 서비스를 제공하기 위해 노력하고 있다"면서도 "사업자 책무 같은 경우 완벽한 대책이 있을 거라 생각하지 않는다. 사업자, 이용자, 정부, 국회 사회 등에서 장기적으로 여러 가지 필요한 개선 방안을 논의하면 좋을 거라 생각한다"고 밝혔다.


◎공감언론 뉴시스 [email protected]