[서울=뉴시스] 신효령 기자 = 딥페이크를 활용한 성범죄 영상물의 시정 요구가 지난해보다 3배 넘게 늘어난 것으로 나타났다.

12일 방송통신심의위원회(방심위)에 따르면 지난해 딥페이크 성범죄 영상물에 대한 시정요구 건수는 2만3107건으로, 2023년(7187건)보다 약 3.2배 급증한 것으로 나타났다.

이에 대해 방심위는 "텔레그램과 핫라인을 구축하는 등 생성형AI(인공지능) 기술을 악용한 딥페이크 성범죄영상물의 유통을 조기 차단하기 위해 적극 대응한 결과"라고 설명했다.

그 이전의 딥페이크 성범죄영상물 시정요구 현황을 보면 2020년 473건, 2021년 1913건, 2022년 3574건이었다.

전체 디지털성범죄정보의 시정요구 건수의 경우 2023년 6만6929건에서 2024년 9만4185건으로 약 41% 증가했다.

이는 다수 피해자 불법촬영물 유포, 아동·청소년 성착취 사건 등 다양한 디지털성범죄 현안에 대해 연중 상시·중점 모니터링을 강화한 결과라는 분석이다.

그 이전의 디지털성범죄정보의 시정요구는 2020년 3만5550건, 2021년 2만5879건, 2022년 5만4994건이다.

방심위는 "생성형AI 기술을 악용한 딥페이크 성범죄영상물 유포 및 불법촬영을 통한 아동·청소년 성착취 사례 등이 지속적으로 발생할 우려가 있다"고 밝혔다.

"향후에도 상시·중점 모니터링 강화, 사업자 협력 등 자율규제 유도, 악성 정보에 대한 수사 의뢰·지속적 협의 시행, 해외 사업자·유관기관 협력 등의 다각적 조치를 통해 유사한 피해가 재발되지 않도록 적극 대응할 예정"이라고 했다.


◎공감언론 뉴시스 snow@newsis.com