서울시, '디지털 성범죄 AI 삭제기술' 전국에 무상 보급

[서울=뉴시스]최현호 기자 = 서울시가 자체 개발한 '디지털 성범죄 인공지능(AI) 삭제지원' 기술을 전국에 무상 보급한다고 2일 밝혔다.

시는 다음날인 3일 첫 무상 기술이전 계약을 시작으로 기술 전수를 원하는 전국 정부기관과 지자체, 기업 등에 해당 기술을 무상 보급한다. 공익 목적에 한해 폭넓게 활용할 수 있도록 하고, 요청 기관의 운영 목적과 사용 계획 등을 사전 심사한 뒤 서울시·서울연구원과의 업무협약(MOU) 및 계약을 통해 이전을 추진할 계획이다.

해당 기술은 인공지능(AI)이 24시간 실시간 모니터링을 통해 불법 사이트와 사회관계망서비스(SNS)에 유포된 피해 영상물을 자동 검출해 신속히 삭제하고 재유포를 차단하는 시스템이다. 2023년 3월 서울시와 서울연구원이 핵심 기술 개발을 완료했으며, 현재는 ‘서울 디지털성범죄 안심지원센터’(서울여성가족재단 운영)에서 활용 중이다.

해당 기술은 2023년 정부혁신 우수사례 대통령상 대상, 2024년 UN공공행정상 대상을 수상했다.

이 기술은 사람의 육안에 의존하던 기존 방식과 달리 처리 시간을 평균 3시간에서 6분으로 단축해 약 30배 빠른 속도를 구현했고, 정확도도 200~300% 개선됐다는 게 서울시의 설명이다. 시는 기술 무상 보급 시 기관당 약 1억8000만원의 예산 절감 효과가 있을 것으로 보고 있다.

AI 기술 도입 이후 삭제지원 실적도 크게 늘었다고 한다.

서울 디지털성범죄 안심지원센터의 삭제지원 건수는 2022년 2509건에서 2025년 1만5777건으로 4년 만에 6배 이상 증가했다. AI가 대규모 자동 탐색과 확장 검색을 통해 사람이 찾기 어려운 신규·폐쇄형·해외 불법 사이트까지 추적한 결과다.

딥페이크 영상물 탐지도 가능해졌다. 기존에는 피해자가 원본을 보유해야 동일 영상을 찾을 수 있었지만, AI는 비디오·오디오·텍스트 3종 분석을 통해 원본이 없어도 복제본을 식별한다. 모자이크 처리나 편집 등 변형된 영상도 신체·언어·움직임 패턴을 학습해 탐지 사각지대를 줄였다.

불법 촬영 사진 1장만으로 동일 인물의 다수 촬영물을 자동 묶음 탐지하는 기능과, 삭제 후 재업로드된 영상의 재탐지 기능도 갖췄다. 가해자가 금요일 밤 영상을 올렸다가 주말에 삭제하는 방식의 지능형 범죄에도 24시간 대응이 가능하다.

AI가 피해 영상물을 블러 처리해 전달하고, 반복 검색 업무를 대신 수행함으로써 삭제지원관의 심리적 부담을 줄이는 효과도 기대된다.

오균 서울연구원장은 "이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례"라고 말했다.

마채숙 서울시 여성가족실장은 "이번 기술 무상보급은 피해자 보호를 최우선으로 고려해 내린 결단으로, 서울시가 개발한 피해자 보호 기술을 서울시의 것만이 아닌, 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다"며 "디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다"고 밝혔다.


◎공감언론 뉴시스 [email protected]