"어디까지 맡길까"…'알아서 일하는 AI' 개인정보 기준 나온다

[서울=뉴시스]윤정민 기자 = 정부가 민간 전문가들과 함께 인공지능(AI)에 어디까지 업무를 맡기고, 어느 단계에서 사람의 승인을 받도록 할지 기준 마련에 나섰다. AI의 작업 기록이나 기억 정보에 남은 개인정보를 얼마나 보관하고 언제 지울지도 함께 논의한다.

개인정보보호위원회는 23일 오후 서울 중구 은행회관에서 'AI 프라이버시 민·관 정책협의회' 2기 제2차 전체회의를 열고 에이전틱 AI의 개인정보 보호 쟁점을 논의했다고 밝혔다.

김병필 한국과학기술원(카이스트) 교수는 '에이전틱 AI의 프라이버시 이슈'를 주제로 지난 7~8월 국내외 AI 개발·도입 기관 15곳을 면담한 결과를 발표했다. 참여 기관들은 AI가 읽는 자료에 악의적인 명령을 심어 예상치 못한 행동을 유도하는 '프롬프트 인젝션'과 AI에 필요 이상의 권한을 주는 문제를 주요 위험으로 꼽았다.

AI가 자율적으로 처리할 업무와 사람의 승인이 필요한 업무를 어떻게 구분할지도 과제로 제시됐다. 서비스에 관여하는 주체별 지위와 책임, AI의 작업 기록·기억 정보에 남은 개인정보의 보관·삭제 기준이 필요하다는 의견도 나왔다.

해외에서도 AI가 다른 서비스에 접근해 행동할 때의 권한 관리가 논의되고 있다. 미국 국립표준기술연구소(NIST)는 올 초 AI 에이전트의 신원 확인과 권한 부여, 작업 감사, 프롬프트 인젝션 대응을 검토 과제로 제시했다.

최윤정 개인정보보호정책과장은 'AI 시대 개인정보 제도 혁신 방향'을 발표했다. AI 개발에 필요한 개인정보의 처리 근거와 개인정보 활용 특례의 운영 방안, AI 환경에 맞는 안전장치와 책임 구조 등이 이어진 토의에서 다뤄졌다.

해당 특례는 가명·익명정보만으로 AI 개발이 어렵고 공익·사회적 필요성이 인정되는 경우, 강화된 안전조치와 개인정보위의 심의·의결을 전제로 적법하게 수집한 개인정보를 AI 기술개발에 활용할 수 있도록 하는 내용이다.

개인정보위는 데이터 활용을 제약하는 형식적인 규제를 개선하는 한편 AI 환경에 필요한 규범을 마련할 계획이다. 회의에서 나온 의견은 올해 말 공개 예정인 '에이전틱 AI 개인정보 처리 안내서'(가칭)와 제도 개선 방안에 반영한다.

송경희 개인정보위원장은 "국민 편익을 가져오는 기술 발전은 충분히 뒷받침하면서 국민의 프라이버시 보호를 비롯한 권리와 안전을 함께 지켜나가야 기술이 지속 가능할 수 있다"고 말했다.

권창환 공동의장은 "산업 현장의 목소리를 정부에 충실히 전달하고 민관이 함께 합리적인 규율 방안을 모색함으로써 사업자의 책임 있는 혁신과 정보주체의 실효적인 권리 보호가 조화를 이룰 수 있게 되기를 기대한다"고 밝혔다.


◎공감언론 뉴시스 [email protected]