"AI 환각·정보유출 막는다"…정부, 딥페이크·학습데이터 보호 R&D 착수

[서울=뉴시스]윤정민 기자 = 정부가 인공지능(AI) 확산에 따른 개인정보 유출과 오남용 우려를 해소하고, 글로벌 프라이버시 규제 장벽을 넘기 위한 핵심 보안 기술 개발에 착수했다. AI 기술 경쟁의 축이 모델 성능 중심에서 안전성과 신뢰성 확보로 이동함에 따라, 개인정보 보호 기술을 국가 핵심 경쟁력으로 육성하겠다는 취지다.

한국인터넷진흥원(KISA)은 '2026년 개인정보 연구개발(R&D) 신규사업 착수보고회'를 열고 딥페이크 억제 및 AI 학습데이터 프라이버시 보호 등 11개 연구개발 과제를 진행한다고 29일 밝혔다.

연구 분야는 ▲개인정보 안전활용 선도기술 개발 ▲글로벌 개인정보보호 표준 개발 ▲개인정보 보호·활용 전문인력 양성이다.

주요 과제로는 딥페이크 억제 기술과 비정형 합성데이터 안전성 검증, 가명·익명정보 생성 기술, AI 학습데이터 프라이버시 리스크 관리, AI 운용 과정의 민감정보 추론 방지 기술 등이 포함됐다.

AI 기술 경쟁이 모델 성능 중심에서 안전성과 신뢰성 확보 경쟁으로 확대되면서 개인정보 보호 기술도 핵심 국가 경쟁력으로 떠오르고 있다. 특히 AI 학습데이터 관리와 딥페이크 대응, 개인정보 보호 중심 설계는 글로벌 규제와 산업계가 주목하는 분야로 향후 국내 AI 산업 경쟁력에도 영향을 미칠 것으로 전망된다.

글로벌 개인정보 보호 표준 개발도 추진한다. AI 시대 위험 기반 개인정보 보호 중심 설계 표준과 AI 기반 디지털 신원관리·생체인증 글로벌 표준을 개발하고 개인정보 표준 확산도 지원할 계획이다.

보고회에는 지난 4월 연구개발 과제 협약을 체결한 연구기관들이 참석해 연구 목표와 추진 전략, 연차별 수행 계획 등을 공유했다. KISA는 과제별 추진 상황을 지속 점검하고 연구기관 간 협업을 지원할 방침이다.

이상중 KISA 원장은 "AI 시대 경쟁력을 확보하기 위해서는 국민이 안심하고 데이터를 맡길 수 있는 환경을 만드는 것이 필수적"이라며 "개인정보 보호와 활용이 균형을 이루는 신뢰 기반을 조성해 국가 AI 경쟁력 강화에 기여하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]