개보위, 오픈클로·몰트북 등 최신 서비스 보안성 점검
권한 확대·프롬프트 인젝션·메모리 축적 등 위험 논의
개인정보보호위원회는 12일 정부서울청사에서 '에이전틱 AI' 기술을 주제로 브라운백 회의를 열고 기술 구조와 개인정보 보호 위험 요소를 점검했다고 밝혔다.
에이전틱 AI는 목표 설정부터 실행까지 AI가 자율적으로 작업을 수행하는 기술이다. 다양한 외부 시스템과 연동되는 과정에서 개인정보 처리 범위가 확대될 수 있어 기존 AI와 다른 형태의 프라이버시 위험이 발생할 수 있다는 지적이 나온다.
개인정보위는 특히 세 가지 주요 위험 요소를 제시했다. 여러 서비스가 연결되는 과정에서 에이전트 권한이 예상보다 확대될 수 있는 '권한 확대', 악의적 입력을 통해 민감 정보가 외부로 전달될 수 있는 '프롬프트 인젝션', 에이전트 메모리에 민감 정보가 축적될 가능성 등이다.
이날 회의에서는 전종홍 한국전자통신연구원(ETRI) 책임연구원이 에이전틱 AI의 기술 구조와 프라이버시 위험 요소를 설명했다. '몰트북', '오픈클로' 등 관련 서비스 시연도 진행됐으며 참석자들 간 질의응답과 토론이 이어졌다.
개인정보위는 "최신 기술 동향을 공유하고 내부 전문성을 강화하기 위해 이번 회의를 마련했다"고 밝혔다. 이를 통해 에이전틱 AI 환경에서도 개인정보 안심설계(PbD) 등 사전 예방 중심의 정책 기반을 강화한다는 계획이다.
개인정보위는 이날 논의된 내용을 'AI 프라이버시 민·관 정책협의회' 분과 회의에서 추가 검토할 예정이다. 이를 바탕으로 AI 에이전트 특화 개인정보 처리 안내서를 마련하고 AI 프라이버시 리스크 관리 모델 고도화에도 반영할 방침이다.
◎공감언론 뉴시스 snow@newsis.com