5·18 악플, AI가 먼저 잡았다…네이버 '클린봇'의 진화

[서울=뉴시스]윤정민 기자 = 지난 18일 5·18 민주화운동 기념일을 맞아 온라인 공간에서는 여전히 왜곡과 혐오 표현이 기승을 부렸다. 유공자를 비하하거나 유족을 향한 악성 댓글이 끊이지 않았다.

하지만 포털 네이버의 풍경은 달랐다. 최근 고도화한 인공지능(AI) 기반 댓글 관리 시스템 '클린봇'이 제 역할을 톡톡히 해냈다.

19일 네이버에 따르면 지난 18일 뉴스 댓글 클린봇의 차단율은 10.5%를 기록했다. 지난해 같은 날보다 2.7%포인트(p) 늘어난 수치다. 반면 이용자들의 신고율은 5.5%로 전년 대비 1.1%p 줄었다.

효과는 수치로 입증됐다. 이날 전체 댓글 작성 수는 전년보다 17% 감소했다. 그럼에도 AI가 스스로 잡아낸 악성 댓글 차단 건수는 10.4% 증가했다. 이용자가 직접 누른 신고 건수도 32.3%나 급감했다. 네이버는 AI가 악플을 먼저 차단하는 선제 대응 역량이 강화됐다고 설명했다.

네이버는 지난달 29일 'AI 클린봇 3.0' 업그레이드를 마쳤다. 클린봇은 네이버가 2019년 업계 최초로 도입한 AI 댓글 관리 시스템이다.

초기 클린봇은 단순한 욕설이나 비속어를 거르는 수준이었다. 이후 진화를 거듭하며 문맥 중심의 분석 기능을 확대했다. 지금은 차별과 혐오, 모욕적인 표현까지 스스로 탐지한다. 최근에는 성적 불쾌감을 주는 표현이나 특수문자를 섞어 교묘하게 피해 가는 우회성 악플까지 잡아낸다.

특히 이번 개편에서는 기사 맥락을 읽는 능력을 키웠다. 사건·사고 피해자와 유족을 향한 조롱과 비하를 집중적으로 차단하기 위해서다.

이를 위해 역사 왜곡 관련 데이터를 집중 학습시켰다. 5·18을 '폭동'으로 규정하거나, 유공자를 '북한군' 또는 '간첩'으로 연관 짓는 표현 등이 대표적이다. 관련 법령에서 정의한 왜곡 표현들을 AI에게 미리 가르친 결과다.

네이버는 한국인터넷자율정책기구(KISO)의 혐오표현 자율정책 가이드라인을 시스템에 반영했다. 기술을 통해 건전한 댓글 문화를 만들겠다는 취지다.

네이버 관계자는 "기존 모델에서 탐지가 어려웠지만 유족을 향한 혐오성 댓글을 차단하기 위해 클린봇을 고도화했다. 실제 5.18 민주화운동 당일에도 정상적으로 작동하며 악플을 선제적으로 막아냈다"며 "앞으로도 이용자의 다양한 의견을 경청하며 댓글창이 건전한 소통의 장이 될 수 있도록 노력하겠다"고 밝혔다.


◎공감언론 뉴시스 [email protected]