박찬준 숭실대 교수, 개인정보보호위원회 'AI 연구과제' 책임자 선정

[서울=뉴시스]박시은 인턴 기자 = 숭실대학교는 소프트웨어학부 박찬준 교수가 개인정보보호위원회의 인공지능(AI) 안전성 기술 개발 연구책임자로 선정됐다고 10일 밝혔다.

한국인터넷진흥원(KISA)이 주관하는 이번 과제의 주제는 '파운데이션 모델(Foundation Model) 운용 과정에서 민감정보 추론 방지 및 리스크 평가 기술 개발'이다.

과제는 3년간 수행되며, 올해 정부 지원 연구개발비는 6억7200만원이다. 이는 생성형 인공지능(AI)의 핵심인 파운데이션 모델 운용 과정에서 발생할 수 있는 개인정보 유출과 민감정보 추론 위험을 줄이기 위한 안전성 기술 개발을 목표로 한다.

아울러 AI 안전성 기업 에이아이엠인텔리전스(AIM Intelligence)가 공동 참여한다. 수요기업으로는 ▲업스테이지 ▲엔씨 에이아이(NC AI) ▲트릴리온랩스, 데이터 협력기업으로는 ▲플리토가 참여한다.

연구진으로는 박 교수와 함께 숭실대 소프트웨어학부 조해현·정진홍 교수가 참여할 예정이다. 이들은 파운데이션 모델이 학습 데이터의 민감정보를 암기하거나 추론하는 과정을 분석하고, 이를 방어하는 가드레일 기술과 정량적 리스크 평가 체계를 구축할 계획이다. 특히 기업의 AI 도입 과정에서 제기되는 데이터 보안과 컴플라이언스 문제 해결에 초점을 맞춘다.

박 교수는 "글로벌 수준의 연구진과 함께 파운데이션 모델 안전성 기준을 마련하게 됐다"며 "국내 AI 기업이 민감정보 유출 우려 없이 서비스를 개발할 수 있도록 기술적 기반을 구축하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]