한양대 김미란 교수, '동형암호 기반 보안 기술' 개발

[서울=뉴시스]박시은 인턴 기자 = 한양대학교는 수학과 김미란 교수가 개인정보 유출을 방지하면서도 강화학습(Reinforcement Learning)을 안전하게 수행할 수 있는 '동형암호 기반 보안 기술'을 개발했다고 2일 밝혔다.

최근 의료·금융·자율시스템 등 민감한 데이터를 다루는 분야로 인공지능 기술이 빠르게 확산되면서 딥러닝 학습 과정 전반의 보안이 더욱 중요해지고 있다.

그러나 기존 기존 동형암호 기반 방식은 높은 연산 비용으로 인해 강화학습과 같은 반복 학습 환경에 사용되기 어려웠고, 수치적 불안정성으로 인해 실제 딥러닝 학습에 적용하는 데 한계가 있었다.

이를 해결하기 위해 연구팀은 딥러닝 기반 강화학습의 학습 전 과정을 암호화된 상태에서 직접 수행할 수 있는 새로운 프레임워크를 제시했다.

연구팀은 암호문 패킹 연산 구조와 다항식 근사 기법을 적용해 동형암호 환경에서도 신경망의 순전파 및 역전파 연산이 가능하도록 설계했다. 또한 기존 딥러닝 학습에 널리 활용되는 아담(Adam) 최적화 알고리즘을 암호화 환경에 맞게 재구성했다.

이후 암호화 환경에서 강화학습 실험을 수행한 결과, 암호화된 딥러닝 기반 강화학습은 비암호화 환경과 비교해 성능 저하를 10% 이내로 유지하면서도 안정적인 학습 수렴 특성을 확보한 것으로 검증했다.

김 교수는 "이번 연구는 민감한 데이터를 활용하는 인공지능 서비스 전반에서 신뢰 가능한 학습 인프라로 활용될 수 있을 것"이라고 말했다.

한편 김 교수가 교신저자로 참여한 이번 연구는 한국연구재단(NRF)과 미국국립보건원(NIH)의 지원을 받아 수행됐으며, 인공지능 분야 국제 학술지 '네이처 머신 인텔리전스(Nature Machine Intelligence)'에 지난달 1일 게재됐다.


◎공감언론 뉴시스 [email protected]