[서울=뉴시스]윤정민 기자 = 국내 보안 전문가들이 인공지능(AI)을 안전하게 쓰기 위한 통제 체계, 즉 'AI 안전벨트'를 먼저 갖춰야 한다고 입을 모았다. AI가 업무 생산성을 높이는 도구인 동시에 정보 유출, 프롬프트 인젝션(악의적인 명령을 입력해 정보 유출, 허위 정보 유포 등을 하도록 하는 사이버 공격), 딥페이크, 자동화 해킹 통로가 될 수 있기 때문이다.

윤두식 이로운앤컴퍼니 대표는 8일 오전 서울 중구 신라호텔에서 열린 '제15회 정보보호의 날 기념식' 기조연설에서 "AI를 안전하게 쓸 수 있어야 기업과 개인이 안심하고 활용할 수 있다"며 이같이 밝혔다.

◆AI 쓰는데 누가 뭘 하는지 모른다…"볼 수 있어야 막는다"

윤 대표는 AI 보안을 자동차 안전벨트에 비유했다. 그는 "1959년 볼보가 자동차 안전벨트를 발명했을 당시 업계에서는 자동차 산업의 걸림돌이 될 것이라는 반응이 있었다"며 "하지만 안전벨트는 자동차를 느리게 만든 것이 아니라 더 빠르고 안전하게 달릴 수 있게 했다"고 말했다.

그는 현재 기업들이 AI 도입을 원하면서도 정보 유출과 통제 불가능성을 우려해 적극적으로 활용하지 못하고 있다고 봤다. AI 사고가 발생할 경우 비용이 커지고 있지만 상당수 기업은 AI 사용 현황을 모니터링하거나 통제하는 체계를 충분히 갖추지 못했다는 설명이다.

윤 대표는 대표적 위협으로 프롬프트 인젝션, 자율 에이전트 오작동, 딥페이크 사기를 꼽았다. 예를 들어 마이크로소프트(MS) 코파일럿처럼 회사 메일을 읽고 요약하거나 업무를 자동 처리하는 AI를 예로 들며 외부 공격자가 악성 링크나 명령을 심은 메일을 보낼 경우 직원이 이를 클릭하는 것만으로도 AI 에이전트가 위험한 행동을 수행할 수 있다고 설명했다.

그는 대응책으로 AI 사용 실태와 에이전트 행위를 먼저 들여다볼 수 있어야 한다고 강조했다. 윤 대표는 "볼 수 없으면 막을 수 없다"며 ▲AI 사용 현황 모니터링 ▲입력·출력 정보 관리 ▲프롬프트 인젝션 방어 ▲출력 검증 ▲에이전트 행위 통제 ▲데이터 격리와 주권 확보 ▲에이전트 신원 검증 ▲행위 로그 기록 등을 제시했다.

윤 대표는 "자동차 사고가 나면 블랙박스를 보듯 AI가 했던 행위도 모두 로그로 남겨야 사고 원인을 확인할 수 있다"며 "AI를 구축하거나 활용할 때 자동차 안전 시스템처럼 전체 안전 체계를 함께 고려해야 한다"고 말했다.

◆"패치할 시간도 없다"…AI 해킹 위협에 실시간 방어 시급

이상근 고려대 정보보호대학원 교수(고려대 AI보안연구소장)도 AI가 전문가 지식이 많이 필요했던 익스플로잇(취약점 악용 코드·절차) 제작을 자동화할 수 있다는 점을 가장 큰 위협으로 꼽았다.

그는 "클로드 미토스나 GPT 같은 프론티어 모델에 대해 말할 때 문제가 되는 부분은 특수 폭약을 만드는 것, 즉 익스플로잇 제작을 AI가 자동화할 수 있다는 점"이라며 "돈을 주고 프론티어 AI 모델을 쓸 수 있는 누구나 해킹할 수 있는 시대가 열렸다"고 말했다.

취약점 대응 시간이 급격히 줄어드는 현상도 경고했다. 이 교수는 "공개된 취약점이 실제 해킹으로 이어지기까지 걸리는 시간이 2018년에는 2~3년이었지만, 지난 5~6월에는 3시간까지 줄었다"고 말했다.

이어 "4월 같은 장표를 봤을 때는 10시간, 5월에는 8시간, 6월에는 3시간이었고 최근에는 2시간도 나왔다"며 "이는 공개되기 전에 이미 공격이 일어나고 있다는 의미"라고 설명했다.

그는 2028년에는 취약점 악용 시간이 분 단위로 줄어들 수 있다며 실시간 자율 대응 체계가 필요하다고 강조했다. AI가 생성한 코드가 늘어나면서 점검 대상은 폭증하지만 방어 인력은 같은 속도로 늘지 않아 방어자에게 과부하가 걸리는 '퍼펙트 스톰'이 올 수 있다는 것이다.

이 교수는 프론티어 모델을 활용한 취약점 탐지·수정과 여러 모델을 결합한 에이전트형 보안 시스템을 대응 방안으로 제시했다. 다만 해외 프론티어 모델에 소스코드를 입력하는 방식은 소스코드 해외 반출과 높은 비용 종속 문제가 있다고 지적했다.

그는 "특정 AI 모델에 종속되는 것이 아니라 여러 모델을 사용하고 보안 지식을 바탕으로 에이전트 시스템을 설계하는 전략이 필요하다"며 "이를 위해 우리나라에서 쓸 수 있는 소버린 AI 모델이 갖춰지면 좋겠다"고 말했다.

이 교수는 "2026년은 빅테크에 종속될 것인지, 독자 AI 기술로 우리를 지킬 디지털 주권을 확보할 것인지의 기로"라며 "독자적 AI 방어 기술과 인재에 투자한다면 대한민국은 안전한 AI를 가장 먼저 실현하는 나라가 될 수 있다"고 말했다.


◎공감언론 뉴시스 alpaca@newsis.com