[서울=뉴시스]이주영 기자 = 네이버가 인공지능(AI) 안전성 체계 'ASF 2.0'을 8일 공개했다. 기술 중심의 관리를 넘어 'AI 탭' 등 실제 이용자가 경험하는 서비스 전반에 해당 안전 가이드라인을 적용했다.

ASF 2.0은 네이버가 지난  2024년 AI 서울 서밋에서 공개한 ASF을 최신화해 이용자 보호 측면까지 확장된 개념을 담아낸 AI 안전성 관리 체계다.

AI 기술 모델의 성능과 위험 수준을 중점적으로 관리해왔던 기존 ASF의 안전성 관리 범위를 확대해 사용자가 실제로 경험하는 서비스를 중심으로 안전성을 관리한다는 점이 핵심이다.

네이버는 8일 서울 강남구 코엑스에서 개최된 인공지능안전 서울 포럼(SFASS)에서 ASF 2.0의 방향성과 구성요소, 강화된 분류·관리·실행 체계와 앞으로의 활동 계획에 대해 공유했다.

발표에 나선 송대섭 네이버 AI 안전 정책 리더는 "하나의 모델을 안전하게 만드는 문제를 넘어 다양한 AI  모델을 결합해 수천만명이 사용하는 서비스를 어떻게 안전하게 설계하고 운영할 것인지의 문제로 확장되고 있다"며 ASF 2.0의 제정 배경을 밝혔다.

송 리더는 네이버 ASF 2.0에 ▲AI탭, 쇼핑 AI 에이전트 등 고도화 중인 네이버 '온 서비스 AI' 전략 ▲글로벌 AI 생태계에서의 멀티 모델 환경의 확산 ▲AI기본법 제정 등과 같은 정책·제도 환경의 변화 등이 다각적으로 반영됐다고 부연했다.

ASF 2.0은 기존 AI의 기술 모델을 중심으로 삼았던 관리 범위를 멀티 모델 환경 기반의 AI 서비스로 확장하고 성능 중심의 단일 평가 기준 역시 맥락, 활용사례, 영향으로 세분화했다.

AI 위험 분류 체계에 따라 AI 서비스에서 발생할 수 있는 위험을 유형화하고 AI 영향 평가 매트릭스에 따라 활용 영역 및 범위에 따른 예상 영향을 평가한다. 해당 체계를 바탕으로 지속적인 안전성 평가와 사용자 피드백 등을 통해 이용자가 AI 서비스를 지속적이고 안전하게 쓸 수 있도록 관리하게 된다.

네이버는 서비스 출시 과정에서 ASF 2.0이 일관되게 적용될 수 있도록 돕는 전사적 실행 체계 'CHEC 2.0'을 마련하기도 했다. 지난달 선보인 AI탭 역시 CHEC 2.0을 통해 설계부터 출시 단계에 이르는 모든 과정에서 AI 안전성을 점검했다.

네이버는 AI탭을 포함해 출시 예정이거나 이미 출시된 AI 기반 서비스들의 안전성을 CHEC 2.0을 통해 지속 점검해 나가겠다는 방침이다.


◎공감언론 뉴시스 zoo@newsis.com