"상습 악플자 판단에도 활용 예정…댓글과 공감 수 제한 정책 계획"
(출처: 네이버)
[서울=뉴시스] 이진영 기자 = 네이버는 19일부터 인공지능(AI) 기술을 기반으로 악성 댓글의 노출을 막는 'AI 클린봇'을 업그레이드한다고 밝혔다.
앞서 네이버는 지난해 4월 AI 클린봇을 첫 선보인 후 현재 뉴스, 스포츠, 쥬니버 등에 적용, 욕설과 비속어가 들어간 댓글을 탐지해 자동으로 보이지 않게 블라인드 처리하고 있다.
네이버는 이번 업그레이드를 통해 AI 클린봇의 악성 댓글 판단 기준이 '욕설 단어'에서 '문장 맥락'을 고려하는 것으로 확대, 비속어를 포함하지 않았더라도 모욕적인 표현이나 무례한 댓글을 탐지할 수 있게 됐다라고 설명했다.
네이버는 향후에도 AI 클린봇이 최대한 많은 악성댓글을 탐지할 수 있도록 다양한 AI 모델을 결합하고, 빅데이터 학습을 계속해 보다 정밀하고 고도화된 AI 클린봇 모델을 구축하기 위한 노력을 이어갈 방침이다.
네이버는 또 업그레이드된 AI 클린봇을 상습적인 악성 댓글 작성자를 판단하는 데도 활용될 예정이라고 밝혔다.
AI 클린봇이 인지한 악성 댓글을 반복해 작성하는 이용자는 일정 기간에 댓글 서비스 이용이 제한되며, 그 반복 정도에 따라 작성할 수 있는 댓글과 참여할 수 있는 공감 수를 제한하는 정책을 준비하고 있다고 알렸다.
네이버 관계자는 "AI 기술을 활용해 악성 댓글의 노출을 최대한 막으려 한다"며 "이를 통해 이용자들이 온라인 공간에서 지금보다 더욱 활발히 서로의 의견을 교환하고, 위로와 공감, 비판을 할 수 있는 뉴스 댓글 공간을 마련해 나가는 데 기여할 수 있도록 하겠다"라고 말했다.
◎공감언론 뉴시스 [email protected]
앞서 네이버는 지난해 4월 AI 클린봇을 첫 선보인 후 현재 뉴스, 스포츠, 쥬니버 등에 적용, 욕설과 비속어가 들어간 댓글을 탐지해 자동으로 보이지 않게 블라인드 처리하고 있다.
네이버는 이번 업그레이드를 통해 AI 클린봇의 악성 댓글 판단 기준이 '욕설 단어'에서 '문장 맥락'을 고려하는 것으로 확대, 비속어를 포함하지 않았더라도 모욕적인 표현이나 무례한 댓글을 탐지할 수 있게 됐다라고 설명했다.
네이버는 향후에도 AI 클린봇이 최대한 많은 악성댓글을 탐지할 수 있도록 다양한 AI 모델을 결합하고, 빅데이터 학습을 계속해 보다 정밀하고 고도화된 AI 클린봇 모델을 구축하기 위한 노력을 이어갈 방침이다.
네이버는 또 업그레이드된 AI 클린봇을 상습적인 악성 댓글 작성자를 판단하는 데도 활용될 예정이라고 밝혔다.
AI 클린봇이 인지한 악성 댓글을 반복해 작성하는 이용자는 일정 기간에 댓글 서비스 이용이 제한되며, 그 반복 정도에 따라 작성할 수 있는 댓글과 참여할 수 있는 공감 수를 제한하는 정책을 준비하고 있다고 알렸다.
네이버 관계자는 "AI 기술을 활용해 악성 댓글의 노출을 최대한 막으려 한다"며 "이를 통해 이용자들이 온라인 공간에서 지금보다 더욱 활발히 서로의 의견을 교환하고, 위로와 공감, 비판을 할 수 있는 뉴스 댓글 공간을 마련해 나가는 데 기여할 수 있도록 하겠다"라고 말했다.
◎공감언론 뉴시스 [email protected]
