카카오, AI 에이전트 통제·책임 담은 윤리 기준 공개

[서울=뉴시스]윤정민 기자 = 카카오가 스스로 계획하고 행동하는 인공지능(AI) 에이전트에 어떤 권한을 주고 사람이 어떻게 감독할지 점검하는 기준을 마련했다. 서비스 기획부터 운영까지 위험을 살피는 새 윤리 체크리스트도 연내 적용한다.

카카오는 이러한 내용을 담은 AI 윤리 원칙과 이행 가이드를 수립했다고 15일 밝혔다.

점검 대상은 자율 에이전트다. 이용자가 목표를 제시하면 AI가 필요한 작업을 계획하고 도구를 사용해 실행하는 방식이다. 카카오는 이 과정에서 사람의 판단과 책임을 분명히 하고 이를 서비스 설계와 운영에 반영하도록 기준을 정했다.

위험 관리 영역은 ▲통제 주도권 ▲목표 ▲권한 ▲참조 자원 ▲상호작용 등 5개로 나눴다. 각 영역에 인간 감독과 비상 제어, 권한 통제, 데이터 보호 등 필요한 조치를 연결했다.

'AI 윤리 이행 체크리스트'는 세 단계로 운영한다. 먼저 서비스 특성을 파악한 뒤 위험 요소를 사전에 가려내고 필요한 통제 항목을 점검·판정한다.

새 윤리 원칙 '스피릿(SPIRIT)'은 ▲안전 ▲프라이버시 ▲포용 ▲책임 ▲이용자 주체성 ▲투명성과 신뢰성 등 6개로 구성했다. '대한민국 인공지능 윤리원칙'의 3대 가치와 7대 원칙을 주요 이행 기준으로 삼고 카카오 서비스에 맞춰 세부 내용을 보완했다.

원칙을 실행하는 방식은 '노르마(NORMA)'로 이름 붙였다. 조직이 공동 책임을 지고 복잡한 윤리 과제를 관리·실행할 수 있는 단계로 구체화한다는 뜻이다.

원칙과 가이드는 지난 7월 발족한 AI&기술윤리소위원회 외부 자문단 7명과 함께 이달 초 마련했다. 자문단에는 김명주 AI안전연구소 소장, 이민석 국민대 소프트웨어융합대학 교수, 이상욱 한양대 철학과 교수, 이원태 국민대 특임교수, 변순용 서울교대 윤리교육과 교수, 유재연 한양대 사회혁신융합전공 겸임교수, 정병수 유니세프 L&D센터장 등이 참여하고 있다.

자문단은 국내외 규범에 부합하는지 독립적으로 검토했다. 내부에서는 AI 안전성, 개인정보, 정보보안, 서비스 관련 부서가 실무 관점에서 점검했다.

아동·청소년 보호 항목도 보강한다. 지난해부터 적용한 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계를 참고한 AI 특유의 위험 점검 요소를 새 체크리스트에 반영할 계획이다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.


◎공감언론 뉴시스 [email protected]