네이버, 실시간 음란물 필터링 기술 외부 개방

기사등록 2022/12/16 09:17:26

오픈 API로 개방해 네이버 클라우드 플랫폼서 사용 가능

기술 여력 없어도 유해 콘텐츠 탐지 자동화



[서울=뉴시스]최은수 기자 = 네이버의 실시간 음란물 필터링 시스템 ‘엑스아이(X-eye) 2.0’이 ‘클로바 그린아이(CLOVA GreenEye)’로 재탄생한다. 오픈 API(응용프로그램 인터페이스) 형태로 외부에 기술을 개방함으로써 건전한 인터넷 환경 조성 및 이용자 보호에 기여할 것으로 기대된다.

네이버는 16일 ‘엑스아이 2.0’을 ‘클로바 그린아이’로 리브랜딩하고, 네이버 클라우드 플랫폼을 통해 오픈 API 형태로 음란물 필터링 기술을 공개한다고 밝혔다. ‘클로바 그린아이’를 통해 전송된 모든 이미지를 이미지 단위로 검사하고, 유해 콘텐츠 등급에 따라 검사 결과값을 반환하는 방식이다. 네이버 클라우드 플랫폼 홈페이지에서 사용 신청할 수 있으며, 베타 서비스 단계에서는 신청 후 승인된 사용자에 한해 서비스를 제공하고 있다.

이번 ‘클로바 그린아이’ 출시로 기술 여력이 없는 스타트업 및 중소 기업에서도 유해 콘텐츠 탐지를 손쉽게 자동화하고, 수작업 검수를 최소화해 실시간으로 안정적인 콘텐츠 서비스를 제공할 수 있을 것으로 기대된다.

이정규 책임리더는 “지난 5년여간 네이버 내부에서 이용자 보호에 기여해온 음란물 필터링 기술을 외부 기업들도 사용할 수 있도록 개방함으로써 더욱 건전한 인터넷 생태계를 조성하는 데 기여하고자 한다”면서 “앞으로도 인공지능(AI) 모델을 계속 고도화하고 데이터를 최신화하며, 유해 콘텐츠 감지 영역을 확대해나갈 것”이라고 밝혔다.

한편, 네이버는 음란물 외에도 불법 게시물, 악성 댓글 등 유해 콘텐츠를 근절하기 위해 다양한 기술적, 정책적 노력을 기울여왔다. 음란물 필터링 기술 외에도 2019년 ‘클린봇’을 도입해 악성 댓글 필터링을 강화했으며, 2013년부터 ‘그린인터넷’ 캠페인을 통해 음란 및 불법게시물 차단, 아동 및 청소년 보호, 저작권 보호, 개인정보 보호, 이용자 만족 및 보호를 위해 선제적으로 대응하고 있다.


◎공감언론 뉴시스 eschoi@newsis.com