"사진 보낼래?" 온라인 그루밍…서울시, AI 탐지·차단 기술 최초 개발

[서울=뉴시스] 박대로 기자 = 서울시가 온라인 그루밍으로부터 아동·청소년을 보호하기 위해 전국 최초로 인공지능(AI)에 기반을 둔 '서울 안심아이(eye)'를 개발했다고 1일 밝혔다.

온라인 그루밍이란 SNS, 오픈채팅 등에서 알게 된 미성년자에게 친절하고 다정하게 접근해 환심을 사고 친밀감을 형성한 뒤 경계심이 흐려진 상대에게 성적 대화를 유도하거나 학대·착취하는 성범죄 행위다.

서울 안심아이는 아동·청소년이 주로 이용하는 SNS, 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성 착취 시도를 24시간 실시간으로 탐지한다. 위험 징후 포착 즉시 피해 지원 기관에 긴급 알림을 전송하면 기관이 개입해 피해 확산을 초기에 차단한다.

대화 속에서 "사진 보낼래?", "영상통화 할까?", "집이 싫으면 가출해 보심?", "용돈 받고 뭐 원하는 거 해주고 그러는 거야"와 같이 표현을 감지한다.

단순히 특정 단어를 감지하는 수준을 넘어 멀티모달 지원 경량화된 언어모델(sLLM, small Large Language Model)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계된다.

피해 지원 기관(다시함께상담센터 등)은 피해 확산 방지와 예방 조치가 적극적으로 이뤄질 수 있도록 전문 상담사를 배정해 초기 대처법을 안내하고 상담과 수사 지원까지 한다. 지속적·반복적으로 온라인 그루밍을 시도하는 계정에는 신고·고발을 병행한다.

시는 오는 2일 오전 10시 서울시청 서소문청사 제1동 13층 대회의실에서 관련 토론회를 개최한다.

서울연구원 김준철 연구위원이 'AI 기반 온라인 그루밍 탐지 및 선제 대응 기술'을, 서울시여성가족재단 김보화 책임연구원이 '서울시 아동·청소년 온라인 그루밍 실태와 정책방향'을 발표한다.

KBS '시사기획 창' 김도영 기자, 한국형사·법무정책연구원 성유리 부연구위원, 시립다시함께상담센터 이은정 부소장이 랜덤 채팅 실태, 피해 사례 등을 공유한다.

시가 서울시여성가족재단에 의뢰해 실시한 온라인 그루밍 설문 조사(서울 시내 초등학교 5학년~고등학교 3학년 총 2316명 대상, 2025년)에 따르면 응답자의 19%가 '온라인에서 말 걸기, 선물 제공, 성적 대화 요구 등' 온라인 그루밍 접근을 경험했다.

접근 경로는 SNS, 일대일 채팅, 오픈채팅, 게임 순으로 빈도가 높았다. 접근한 사람의 특징으로는 '온라인에서 처음 만났고 전혀 모르는 사람'이 35.5%로 가장 많았고 '친구·선후배 등의 또래'가 34.2%였다.

이야기를 나눈 온라인 플랫폼은 'SNS(엑스·인스타그램·페이스북 등)'가 33.3%로 가장 많았다. 일대일 채팅방, 오픈채팅방이 31.1%, 게임이 15.6%로 나타났다.
 
온라인에서 대화나 만남을 제안 받거나 돈·선물 등 대가를 제공하겠다는 '적극적인 유인' 형태 온라인 그루밍 피해를 경험한 아동·청소년은 11.7%(270명)였다.

이런 '적극적 유인'에 대답한 적이 있다고 응답한 비율은 16.7%로 나타났다. 그 중 오프라인에서 실제로 만난 경험이 있는 아동·청소년은 28.9%였다. 직접 만난 이유로는 '친절하고 말이 잘 통해서 친구가 되거나 사귀게 됨'이라는 응답이 58.3%로 가장 높았다.

적극적 유인에 대답한 적이 있는 아동·청소년 중 40%의 응답자는 그것이 피해라고 생각했다. 그 이유는 상대방이 나이나 신분 등의 개인정보를 속였기 때문에(33.3%), 계속 성과 관련된 이야기를 하거나 성적인 관계를 맺자고 해서(16.7%), 원하지 않는데도 신체적인 접촉을 하려고 해서(16.7%) 등이었다.
 
마채숙 서울시 여성가족실장은 "디지털 성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성 착취가 증가하는 추세를 보이고 있다"며 "미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼 피해자도 모르는 사이에 돌이킬 수 없는 피해로 이어지지 않도록 선제적 예방에 더욱 힘쓰겠다"고 말했다.


◎공감언론 뉴시스 [email protected]