내일부터 온라인 자살유발정보 '즉시 차단'…24시간 AI 모니터링

[세종=뉴시스] 강진아 기자 = 오는 12일부터 포털과 사회관계망서비스(SNS) 등 온라인 플랫폼 사업자는 온라인에서 유통되는 자살유발정보를 발견하는 즉시 차단하고 긴급구조기관에 신고해야 한다. 정부는 이달 중 인공지능(AI) 기반 24시간 자살유발정보 모니터링 시스템을 가동한다.

보건복지부는 11일 오후 2시 서울 강남구 보코서울강남호텔에서 '온라인 자살유발정보 대응강화 포럼'을 열고 내일부터 시행되는 개정 '자살예방 및 생명존중문화 조성을 위한 법률'의 주요 내용과 민·관 협력 방안을 논의했다.
 
개정된 자살예방법은 정보통신서비스 제공자가 자살유발정보 유통 방지를 위한 조치를 실시하고 그 결과를 보건복지부 장관에게 제출하도록 의무를 신설했다. 온라인에 유통되는 자살유발정보를 발견한 경우 이를 즉시 차단하고, 긴급구조기관에 신고 등 조치를 취해야 한다고 명시했다.

또 보건복지부 장관의 자살유발정보 모니터링 업무를 법률로 규정해 수행 내용과 범위를 명확히 했다. 장관은 명백한 자살유발정보에 대해 정보통신서비스 제공자에게 차단·삭제 등 정보가 이용자에게 노출되지 않도록 필요한 조치를 하도록 요청할 수 있다. 자살유발정보 관련 긴급한 조치가 필요한 경우에는 긴급구조기관의 장에게 수사·구조 등의 협조를 요청할 수 있다.

특히 복지부는 과학기술정보통신부의 '공공 AX(인공지능 전환) 프로젝트'를 통해 개발한 24시간 자살유발정보 모니터링 AI 솔루션 시스템을 이달 중 구동해 온라인 자살유발정보에 대한 대응 역량을 높일 계획이다.

AI 시스템은 방대한 온라인 정보 중 자살유발정보를 모니터링하고 위험성이 높은 정보를 선별하는 데 활용된다. 모니터링 담당자는 자살 위험이 높은 게시물을 최우선으로 확인해 필요한 경우 구조 신고 등 후속 조치를 할 수 있다.

이날 포럼에서는 유현재 서강대 신문방송학과 교수가 '자살유발정보 방지의 필요성과 한계, 나아갈 방향'을 주제로 발표했다.

유 교수에 따르면 온라인 자살유발정보 신고 건수는 2021년 14만2725건에서 2025년 60만2781건으로 5년 새 약 4.2배 급증했다.

지난해 국내 자살 사망자 수는 1만4144명이며, 자살률은 인구 10만명당 27.8명으로 경제협력개발기구(OECD) 최고 수준을 기록했다. 10대부터 40대까지 사망원인 1위도 여전히 고의적 자해로 조사됐다.

반면 공적 심의에는 평균 99일이 소요됐고, 플랫폼 자율 조치 삭제율도 포털 5%, SNS 14.5% 수준에 그쳤다.

유 교수는 "명백한 자살유발정보에는 신속하고 일관된 조치를 적용하되 판단 기준의 명확성, 절차적 권리, 위기 지원연계를 함께 설계해야 한다"며 "생명 보호와 표현의 자유를 함께 고려하는 실효성 있는 대응 체계가 중요하다"고 강조했다.

이어 "정부는 정보 유형별 판단 기준과 경계 사례를 명확히 제시하고 신고·위기 대응 창구를 정비하며 실효성 있는 평가 체계를 마련할 필요가 있다"며 "플랫폼 사업자는 위험 정보의 검색·추천 노출을 줄이고 신속한 신고·조치 체계를 운영하되, 조치 결과와 이의제기·복원현황을 투명하게 공개하는 방안을 검토할 수 있다"고 밝혔다.

복지부는 이번 포럼을 계기로 정보통신서비스 사업자 및 관계기관 간 협력체계를 공고히 하고 온라인 자살유발정보를 신속히 발견해 차단한다는 계획이다.

이형훈 제2차관은 "자살유발정보를 생산하고 유통하는 행위는 소중한 생명을 위협하는 명백한 범죄"라며 "이번 법 개정과 AI 기반 모니터링 체계 구축을 계기로 민·관 역량을 결집해 자살유발정보로부터 국민의 생명을 보호하고 온라인 공간에도 생명존중문화가 확산될 수 있도록 노력하겠다"고 밝혔다.


◎공감언론 뉴시스 [email protected]