[서울=뉴시스]오동현 기자 = 네이버가 자체 인공지능(AI) 안전성 관리 체계를 실제 서비스에 어떻게 적용하고 있는지 사례 중심으로 정리한 보고서를 처음 내놨다.

네이버는 'AI 세이프티 프로그레스 리포트'를 처음 발간했다고 16일 밝혔다.


이 보고서에는 네이버의 AI 안전성 체계인 'ASF 2.0'과 현장 실행 체계 'CHEC 2.0'이 실제 서비스에서 어떻게 작동하는지 구체적인 사례를 담았다.

네이버에 따르면 ASF 2.0은 AI 모델의 성능과 위험 수준에 더해 이용자·서비스 보호까지 다루는 종합 관리체계다. 설계와 개발부터 출시, 운영까지 AI 서비스의 전체 수명 주기를 안전하게 관리하는 것이 목적이다.

네이버는 보고서를 통해 AI 위험 분류 체계인 'N-ARTI'를 선보였다. 법률, 사회, 산업 현장의 다양한 사례를 바탕으로 AI가 일으킬 수 있는 잠재 위험을 110개 세부 항목으로 쪼개 정밀 분석한 시스템이다.

서비스마다 특징은 다르지만 회사 전체에는 동일한 안전 기준을 적용하도록 만들었다. 이를 활용하면 생성형 AI가 거짓 정보를 내놓거나 위험한 답변을 하지 못하도록 통제하는 '가드레일(안전장치)'을 설치할 수 있다.

답변 안전성을 검증하는 도구인 'N-ASET'도 함께 공개했다. N-ASET은 AI의 응답을 '유해성'과 '사용성' 두 가지 잣대로 평가한다.

유해성은 이용자에게 해로운 내용이 있는지를 파악한다. 사용성은 질문 의도에 맞게 답했는지, 면책 문구나 전문가 안내 같은 안전 장치를 갖췄는지를 확인한다. 해로운 답변을 막는 데 그치지 않고 답변의 품질과 유용성까지 함께 챙기는 방식이다.

실제 서비스 적용 사례도 제시했다. AI 쇼핑 에이전트와 날씨 서비스 등에서는 이용자가 AI 활용 사실을 한눈에 알아보도록 안내 문구를 넣었다. 지난 6월 출시한 'AI탭'은 CHEC 2.0에 따라 설계부터 출시까지 안전성 점검을 거친 대표 사례로 꼽혔다.

네이버는 KAIST, 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계·전문기관과 협력을 넓혀 AI 위험을 선제적으로 찾아내고 예방·완화하는 연구를 이어갈 계획이다.

원성재 네이버 AI 세이프티 센터장은 "AI 기술이 이용자의 일상에 빠르게 스며들면서 AI 안전성 역시 이론적 논의를 넘어 실제 서비스 환경에서 구체적으로 다뤄야 하는 단계에 접어들고 있다"고 말했다. 이어 AI 개발·이용 전 과정에서 인간 중심 가치를 최우선에 두고, 위험 예방과 완화를 위해 안전 관리 체계를 계속 고도화하겠다"고 강조했다.


◎공감언론 뉴시스 odong85@newsis.com