오픈AI, 최고 해킹 위험 등급 'GPT-6 사이버' 출시…일반 공개 금지

[서울=뉴시스]오동현 기자 = 인공지능(AI)이 소프트웨어의 보안 취약점을 찾아내는 것을 넘어 실제 해킹에 사용할 수 있는 공격 코드까지 개발하는 수준으로 진화했다. 사람이 일일이 시스템을 분석하고 공격 가능성을 검증하던 작업을 AI가 자동으로 수행하면서 사이버보안의 패러다임도 달라지고 있다.

오픈AI는 5일(현지시간) 사이버보안 특화 AI 모델 'GPT-6 사이버(GPT-6 Cyber)'를 출시했다고 밝혔다.

이 모델은 대규모 소프트웨어 코드에서 보안 취약점을 찾아내고 실제 공격이 가능한지 검증하며, 문제 해결을 위한 수정안까지 제시하도록 개발됐다.

특히 오픈AI는 GPT-6 사이버의 공격 수행 능력을 자체 안전성 평가체계인 '준비태세 프레임워크(Preparedness Framework)'에서 최고 단계인 '치명적(Critical)'으로 분류했다.

이전 모델의 '높음(High)'보다 한 단계 높아진 것으로, 고도로 보안이 강화된 시스템에서도 사람의 개입 없이 작동 가능한 제로데이 공격 코드를 개발할 수 있는 역량을 갖췄다는 의미다.

GPT-6 사이버의 성능 향상은 실제 공격 가능성을 평가하는 시험에서도 나타났다.

오픈AI에 따르면 알려진 취약점을 실제로 악용할 수 있는지 평가하는 '익스플로잇짐(ExploitGym)'에서 GPT-6 사이버는 48.5%의 성공률을 기록했다. 이전 모델의 32.1%보다 16.4%포인트 높은 수치다.

실제 환경을 모사한 서버에서 복잡한 보안 작업을 수행하는 '리모트익스플로잇벤치(RemoteExploitBench)' 초기 평가에서는 과제의 95%를 완료했다.

실제 소프트웨어를 대상으로 한 연구에서도 성과를 거뒀다.

오픈AI 연구진은 GPT-6 사이버를 활용해 웹브라우저 '파이어폭스'에서 기존에 알려지지 않았던 고위험 보안 취약점 81건을 발견했다. 개발사 모질라는 연구진이 전달한 검증 자료를 바탕으로 다수의 취약점에 대한 수정 패치를 배포했다.

리눅스 운영체제의 핵심 구성요소인 커널을 대상으로 한 연구에서는 총 1724건의 취약점을 재현하고, 이 가운데 948건에 대해 실제로 작동하는 공격 코드인 '익스플로잇(Exploit)'을 개발했다고 밝혔다.

오픈AI는 중요 발견 사항 304건을 패치 후보와 함께 리눅스 유지관리자들에게 보고했으며, 추가 취약점에 대한 수정 작업도 진행하고 있다.

오픈AI는 모델의 공격 역량이 고도화된 만큼 일반 이용자에게는 공개하지 않기로 했다.

우선 고급 사이버보안 연구를 수행하도록 승인받은 '데이브레이크 레드(Daybreak Red)' 고객 중 일부에게만 API와 코덱스(Codex)를 통해 제공하고, 향후 전체 승인 고객으로 확대할 예정이다.

또한 신원 확인과 접근권한 제한, 고위험 사이버 활동 차단, 악용 탐지 등 안전장치를 적용해 핵심 인프라와 필수 서비스에 심각한 피해를 초래할 수 있는 요청을 제한한다.

오픈AI는 GPT-6 사이버를 자체 인프라 보안 점검에도 활용하고 있다. AI를 통해 취약점을 찾아 수정하고 네트워크 접근 제한을 강화하는 등 내부 시스템의 보안을 개선했다고 설명했다.

문제는 공격과 방어의 기술적 경계가 좁아지고 있다는 점이다.

기존에는 복잡한 소프트웨어의 취약점을 찾아내고 악용하는 코드를 개발하려면 상당한 전문지식과 시간이 필요했다. 그러나 AI가 이 과정을 자동화하면서 악의적인 공격자도 유사한 기술을 활용할 가능성이 커지고 있다.

오픈AI는 검증된 보안 전문가에게 AI를 우선 제공해 공격자보다 먼저 취약점을 발견하고 수정하도록 지원한다는 방침이다. AI의 해킹 능력이 고도화할수록 이를 공격보다 방어에 먼저 활용하는 것이 사이버보안의 새로운 과제로 떠오르고 있다.


◎공감언론 뉴시스 [email protected]