‘AI 해킹’ 막을 국산 AI 누가 만들까…SKT·네이버 2파전(종합)

[서울=뉴시스]심지혜 기자 = 국내 독자 기술을 기반으로 한 '사이버 보안 특화 인공지능(AI) 파운데이션 모델' 개발 사업에 SK텔레콤과 네이버클라우드 컨소시엄이 도전장을 냈다. 정부는 서류 검토와 외부 전문가 평가를 거쳐 9월 초 최종 1개팀을 선정할 예정이다.

과학기술정보통신부는 '사이버 보안 특화 AI 파운데이션 모델 개발' 사업 참여팀 공모에 총 2개 컨소시엄이 제안서를 제출했다고 26일 밝혔다.

SK텔레콤 컨소시엄에는 업스테이지를 비롯해 SK쉴더스, 시큐아이, 안랩, 이글루코퍼레이션, 라온시큐어, 지니언스, 파이오링크 등 보안·AI 기업과 한국정보보호산업협회, 고려대, 숭실대 등이 13곳이 참여한다.

SK텔레콤 컨소시엄은 '전방위 사이버 보안 특화 AI 파운데이션 모델군 개발 및 국내 사이버 위협 환경 기반 에이전틱 보안 서비스 실증'을 과제로 제안했다.

네이버클라우드 컨소시엄에는 LG CNS, LG AI연구원, LG유플러스와 로그프레소, 샌즈랩, S2W, 이스트시큐리티, 티오리한국 등 기업을 비롯해 금융보안원, 한국과학기술정보연구원(KISTI), 서울대, KAIST, 포스텍 등 총 32개 기관이 참여한다. 과제명은 '국가 사이버 안보 역량 내재화를 위한 AI 파운데이션 모델 개발'이다.

최종 선정되는 1개팀에는 모델 개발에 필요한 엔비디아 B200 그래픽처리장치(GPU) 256장이 10개월간 지원된다. 사업 지원 5개월이 지난 시점에는 중간 성과 모델을 공개·점검하고 그 결과를 토대로 지속 지원 여부를 결정한다.

평가는 AI와 사이버 보안 분야 전문가들로 구성된 평가위원회가 맡는다. 기술력과 개발 경험, 개발 목표, 시장성과 파급효과 등을 중점적으로 살핀다. 과기정통부는 제출서류 적합성 검토와 외부 전문가 발표평가를 거쳐 9월 초 최종 결과를 발표할 예정이다.

정부가 별도의 보안 특화 AI 개발에 나선 것은 고성능 AI의 발전과 함께 사이버 보안 위협이 고도화되고 있기 때문이다. 국내 보안 환경에서 활용할 수 있는 독자 AI 기술과 모델을 확보해 변화하는 사이버 위협에 대응한다는 취지다.

 이 같은 우려를 키운 대표적인 사례가 앤트로픽의 프론티어 AI 모델 '클로드 미토스 프리뷰'가 꼽힌다. 미토스는 보안 특화 모델은 아니지만 소프트웨어 취약점을 찾아내고 공격에 활용하는 능력이 크게 향상되면서 AI가 실제 사이버 공격에 활용될 가능성을 보여줬다.

정부는 이에 대응해 프론티어급 AI 모델 자체의 경쟁력을 높이는 것과 별개로 국내 환경에 맞는 사이버 보안 특화 AI 모델도 확보한다는 구상이다. 기존 독자 AI 모델에 보안 데이터를 추가 학습하는 방식 등을 통해 방어에 특화된 AI 체계를 구축하겠다는 것이다.

정부는 개발된 모델을 국내 보안 생태계 전반으로 확산한다는 계획이다. 기존 특화 AI 파운데이션 모델 사업과 마찬가지로 오픈소스를 지향한다. 2027년부터 모델 고도화를 이어갈 수 있도록 후속 지원도 검토한다.

배경훈 부총리 겸 과기정통부 장관도 AI를 활용한 사이버 공격이 고도화되면서 방어 체계 역시 AI 중심으로 전환해야 한다는 입장을 밝혀왔다.

배 부총리는 지난 4월 자신의 SNS를 통해 "AI는 사이버 보안의 보조 도구를 넘어, 공격과 방어의 규칙 자체를 바꾸는 단계로 들어서고 있다"며 중장기적으로 ‘AI로 AI를 방어하는 체계’를 구축하고 제로트러스트 기반 보안 전환에 속도를 내겠다고 했다.

또 단순히 공격을 막는 데 그치지 않고 AI가 취약점을 먼저 찾고 위험을 예측하며 공격보다 빠르게 대응하는 보안 체계로 전환해야 한다고 설명했다.

그는 특히 "AI 보안 모델의 핵심은 결국 파운데이션 모델의 성능"이라며 독자적으로 다룰 수 있는 AI 모델을 보유해야 국내 상황에 맞는 AI 보안 모델과 방어 시스템도 만들 수 있다고 언급했다.


◎공감언론 뉴시스 [email protected]