"기사 맥락까지 파악해 악플 판독"…네이버, 'AI 클린봇' 2차 가해까지 차단

[서울=뉴시스] 신효령 기자 = 네이버가 인공지능(AI)을 활용해 악성 댓글과의 전쟁 수위를 한층 높였다. 단순히 비속어를 걸러내는 수준을 넘어, 기사의 전체 맥락을 파악해 교묘하게 숨겨진 '2차 가해'와 '반인륜적 댓글'을 원천 차단하겠다는 의지다.

네이버는 생명 경시 및 2차 가해 표현 탐지 기능을 강화한 악성 댓글 탐지 시스템 'AI 클린봇 3.0'의 업그레이드를 완료했다고 29일 밝혔다.

이번 업그레이드의 핵심은 '문맥 분석 능력'의 진화다. 기존 클린봇이 댓글 내부의 특정 단어를 기반으로 판단했다면, 고도화된 3.0 버전은 댓글이 달린 기사의 제목과 본문 내용을 종합적으로 대조한다.

예를 들어, 특정 사건·사고 기사에서 사용된 일상적인 단어가 피해자나 유족을 비하하거나 조롱하는 의도로 쓰였을 경우, AI가 기사 내용을 바탕으로 이를 '악의적 표현'으로 즉시 판독해 차단한다.

네이버 측은 "단순 키워드 매칭을 넘어 기사 상황에 따른 작성자의 의도를 더욱 정밀하게 탐지할 수 있도록 최적화 과정을 거쳤다"고 설명했다.

지난 2019년 업계 최초로 등장한 'AI 클린봇'은 그동안 진화를 거듭해 왔다. 초기에는 욕설과 비속어를 걸러내는 수준이었으나, 2020년부터는 문장의 맥락을 파악해 욕설이 없어도 모욕적인 표현을 찾아내는 수준으로 발전했다. 이후 성적 불쾌감 유발이나 차별 표현, 기호를 활용한 우회 악플까지 막아내며 탐지 범위와 정확도를 높여왔다.

이번 조치는 특히 자살, 사망, 신체 훼손 등 생명 경시를 조장하는 댓글과 사건·사고 피해자 및 유족을 향한 조롱, 비하, 혐오 표현에 대한 무관용 원칙을 적용한다.

 
네이버는 기술적 진화뿐만 아니라 정책적 장치도 강화하고 있다. 한국인터넷자율정책기구(KISO)의 혐오표현 가이드라인을 시스템에 반영하는 한편, 정치·선거 섹션 댓글 제한 및 악성 댓글 과다 발생 시 댓글창을 자동으로 닫는 '자동 비활성화' 정책도 병행 중이다.

김수향 네이버 리더는 "신조어나 변형된 혐오 표현에 대응하기 위해 클린봇 성능을 실시간으로 강화하고 있다"며 "생명 경시와 피해자 조롱 등 인륜을 저버린 댓글을 집중 차단해 건강한 소통 문화를 이어가겠다"고 강조했다.


◎공감언론 뉴시스 [email protected]