"로봇 눈에 찍힌 내 얼굴 보호한다"…정부, 피지컬 AI 개인정보 기준 만든다

[서울=뉴시스]윤정민 기자 = 인공지능(AI) 비서가 사람 대신 업무 시스템에 접속하거나, 로봇이 현실 공간에서 얼굴과 위치정보를 수집하는 환경에 대비해 정부가 개인정보 보호를 위한 기술 기준 정비에 나선다.

개인정보보호위원회는 오는 2030년까지 추진할 '개인정보 전주기 보호·활용 기술 연구개발(R&D) 및 표준화 로드맵'을 수립해 9일 공개했다.

개인정보위는 기술 개발과 표준화의 연속성을 높이기 위해 이번 로드맵을 마련했다고 설명했다. 로드맵은 ▲개인정보 주권 보장 ▲유출 위험 경감 ▲신뢰 기반 안전 활용 ▲AI 대응 기술 개발 등 4대 분야로 구성됐다. 개인정보위는 이 안에서 11대 핵심 기술을 최종 선정했다.

인공지능 학습 데이터의 노출과 재식별 우려가 커지는 상황이다. 이에 따라 정부는 개인정보의 생성과 수집부터 이용, 제공, 보관, 파기까지 생애 전주기에 걸친 보호 기술을 재정비했다.

정부는 우선 현실 공간에서 작동하는 '피지컬 AI' 확산에 대응하기로 했다. 로봇이나 사물인터넷(IoT) 기기 등이 대표적이다. 이들 기기가 돌아다니며 인간의 얼굴, 위치, 행동 정보 등을 무분별하게 긁어모으지 못하도록 실시간으로 제어하는 기술을 개발한다. 로봇의 눈에 내 모습이 찍히더라도 수집 범위를 즉시 통제할 수 있게 된다.

AI 비서(에이전트)의 무단 시스템 접속도 막는다. AI가 외부 도구를 호출하거나 회사 업무 시스템에 접근해 작업을 수행하는 과정이 대상이다. 이때 개인정보가 과도하게 활용되거나 오·남용되는 것을 막는 '실행 보안' 기술에 초점을 맞췄다.

생성형 AI가 초래할 위험도 미리 평가한다. AI 모델이 학습 과정에서 이용자의 개인정보를 노출하거나, 민감한 정보를 스스로 추론해 내는 위험을 걸러내는 기술이다.

글자나 영상, 음성 속에 포함된 개인정보를 자동으로 찾아내 알아볼 수 없게 만드는 비식별화 기술 개발도 포함됐다. 생성형 AI 서비스 운영 과정에서 이미지나 목소리 데이터 활용이 급증한 데 따른 조치다.

개인정보위는 이 밖에도 가짜 영상인 딥페이크와 합성 콘텐츠를 검증하는 기술을 핵심 과제로 선정했다. 다크웹의 정보 유출 탐지 기술과 가상 데이터 활용 기술 등도 함께 개발한다.

이번 로드맵에는 정보보호 분야의 전문 인력을 키우는 방안도 담겼다. 정부는 향후 10년간 개인정보 유출 사고를 예방하고 대응할 수 있는 전문 인재를 단계적으로 양성할 계획이다.

우선 2031년까지 석·박사급 전문 인력 640명을 양성한다. 이후 2035년까지 선도 기술 연구 인재 300명을 추가로 키워 총 940명을 확보한다는 핵심 구상이다. 기업의 최고개인정보보호책임자(CPO)급 인력과 AI 융합 기술 연구 인재를 확보해 기술 개발과 현장 대응을 동시에 뒷받침할 예정이다.

송경희 개인정보위 위원장은 "AI 기술 발전과 함께 새로운 프라이버시 위험이 증가하고 있다"며 "이를 사전에 예방하기 위한 기술 연구개발이 더욱 중요해졌다"고 말했다.

이어 "이번 로드맵을 기반으로 실제 현장에서 바로 쓸 수 있는 개인정보 보호 기술을 개발하겠다"며 "국내외 표준화 작업과 전문가 양성을 유기적으로 연결해 안전한 AI 기술 생태계를 구축하겠다"고 밝혔다.


◎공감언론 뉴시스 [email protected]