[서울=뉴시스] 박대로 기자 = 텔레그램을 통한 딥페이크(기존 사진이나 영상을 다른 사진이나 영상에 겹쳐서 실제처럼 만들어 내는 인공지능 기반 이미지합성기술) 성범죄 피해가 확산되고 있는 가운데, 서울시의 피해 지원 건수가 누적 3만건을 넘어선 것으로 나타났다.

29일 서울시에 따르면 서울여성가족재단이 운영하는 서울 디지털 성범죄 안심지원센터는 긴급 상담과 수사·법률지원, 삭제지원, 심리치료·의료 지원 등을 통해 2022년 3월부터 지난 3월까지 2년 간 피해자 935명을 도왔다. 총 지원 건수는 3만576건에 이른다.

피해자 연령을 보면 10~20대가 비중이 가장 컸다. 성별로는 여성이 85.78%로 남성(12.09%)에 비해 많았다.

아동과 청소년을 대상으로 한 피해 지원 건수가 갈수록 증가하고 있다. 2022년 3월부터 1년 간 아동·청소년 피해자는 50명으로 전체 피해자의 19.2%였지만 2023년 3월부터 1년 간 아동·청소년 피해자는 104명(22.2%)으로 2배 이상 증가했다.

이에 따라 아동·청소년을 대상으로 한 디지털 성범죄 피해 지원은 2026건에서 1만5434건으로 7배 이상 증가했다.
 
아동·청소년 디지털 성범죄 피해 유형은 온라인 그루밍이 68건(27.5%)으로 비중이 컸다. 유포·재유포 45건(18.2%), 유포 불안 43건(17.4%) 순이었다. 최근에는 딥페이크 사진 합성, 남성 청소년 대상 몸캠피싱, 대출 조건 나체사진 전송 등이 증가하고 있다.

2022년에는 또래들끼리 불법 사진 합성을 해 단톡방 등에 올린 경우가 많았지만 지난해부터는 신원 불상 가해자가 아동·청소년들이 사회관계망서비스(SNS)에 올린 일상 사진에 음란물 등 성적 이미지를 합성하는 딥페이크 사례가 증가하고 있다.

대출을 받지 못하는 미성년자를 대상으로 '나체 사진을 보증으로 돈을 대출해주겠다'고 제안해 사진을 전송하면 돈은 주지 않고 사진만 유포하는 경우가 증가하고 있다.

용돈이 부족해 아르바이트를 구하던 고등학생 A(17)도 피해를 입었다. 가해자는 '채팅 1건당 70원'이라는 채팅 알바를 제안한 뒤 '사진 1건당 5만원', '영상통화 1건당 20만원' 등 알바비를 준다고 하고 성적인 사진과 영상을 요구했다.

가해자는 초등학생 B(11)에게는 오픈채팅방에서 '노예놀이를 하자'며 접근해 노출 사진이나 영상물을 요구했다. 미취학, 저연령 아동에게는 온라인 게임을 통해 아이템을 선물하며 성기 사진을 요구한 사례가 있었다.

그루밍(길들이기)을 통해 오프라인까지 유도해 물리적 성폭력을 가한 사례가 12건, 신체적 폭력을 가한 사례가 2건, 스토킹범죄가 3건이었다.

아동·청소년 피해자들이 성적인 사진을 전송한 뒤 아르바이트 비용이나 아이템을 받는 경우는 거의 없다는 게 서울시의 설명이다.

이처럼 디지털 성범죄 피해가 확산되고 있는 가운데 서울시와 방송통신심의위원회(방심위)가 신속 대응에 나섰다.

폐쇄형 SNS 안에 있는 딥페이크 불법영상물이 성인사이트나 SNS 등 공개 사이트에 유포될 경우 서울시와 방심위가 24시간 안에 해당 사이트나 SNS 운영자에게 요청해 삭제·차단한다.
 
그간 시 디지털성범죄안심지원센터가 방심위에 삭제 요청을 할 때마다 각종 증빙 자료를 제출해야 했지만 핫라인이 구축되면서 앞으로는 대량으로 일시에 삭제를 요청할 수 있게 됐다.

시는 급증하는 딥페이크 범죄에 아동·청소년도 쉽고 빠르게 대응할 수 있도록 카카오톡 오픈채팅방에 '딥페이크 SOS 전담 상담창구'를 개설하고 피해지원관(2명)을 배치해 신고 방법과 범죄 채증 방법 등을 안내한다.

시는 피해 상황을 24시간 확인하고 자동으로 삭제 신고를 하는 설비를 연말까지 구축하고 딥페이크 검출 기술을 개발해 피해 영상물 삭제 지원 건수를 늘릴 계획이다.

나아가 시는 내년에는 인공지능(AI)을 기반으로 한 딥페이크 검출 기술 '서울 안심 아이(Seoul Safe Eye)'를 개발해 딥페이크와 원본 사진·영상물을 구분해 검출할 계획이다.


◎공감언론 뉴시스 daero@newsis.com