얀 르쿤 "AI 시대 사이버 보안, 방어자가 유리… 화이트해커 집단지성 승리"

[서울=뉴시스]오동현 기자 = "결국 인공지능(AI)은 공격보다 방어에 훨씬 유리하게 작용할 것이다."

'AI 대부'로 불리는 얀 르쿤 AMI 랩스 회장이 AI 시대의 사이버보안 경쟁에서 방어자가 우위를 점할 것으로 내다봤다. 방어 측이 더 많은 전문 인력과 자금을 확보하고, 서로 정보를 공유하며 대응할 수 있다는 이유에서다. 

르쿤 회장은 12일 서울 웨스틴조선에서 열린 '산업 AI 글로벌 협력' 기자간담회에서 이같이 밝혔다. 다만 그는 "사이버보안에는 분명 불확실성이 많다"며 "AI를 활용한 방어 체계가 실제로 제대로 작동해야 한다"고 말했다.

르쿤 회장은 AI가 사이버 공격과 방어 중 어느 쪽에 더 유리한지를 판단하려면 기술을 활용하는 집단의 역량과 활동 조건을 살펴봐야 한다고 설명했다.

시스템을 지키는 '화이트해커'들은 역사적으로 더 많은 전문 인력과 자금을 투입받았다. 특히 지식을 공개적으로 나누는 거대한 공동체를 이루고 있다는 점을 최대 강점으로 꼽았다.

르쿤 회장은 "서로 소통하는 거대 집단이라는 사실이 방어자들을 강력하게 만든다"고 분석했다. 반면 악의적인 '블랙해커'들은 비밀리에 활동해야 해서 지식 공유가 어렵다. 이는 치명적인 약점으로 작동한다.

강력한 AI 시스템을 가동하는 데 엄청난 계산 자원이 필요하다는 점도 해커에게 불리하다. 대규모 컴퓨터 자원을 돌리는 과정에서 해킹 활동이 외부에 쉽게 포착되기 때문이다.

르쿤 회장은 최근 발생한 AI 에이전트 사고에 대해, AI를 격리하는 이른바 '샌드박스' 기술이 허술하게 적용된 결과라고 평가했다.

샌드박스는 프로그램이 허용된 영역 밖의 시스템에 접근하지 못하도록 가두는 안전 장치다. 르쿤 회장은 사고의 원인을 AI 자체의 통제 불능으로 볼 것이 아니라, 기존의 보안 격리 기술을 제대로 쓰지 못한 문제로 봐야 한다고 지적했다.

간담회에 참석한 크리스토퍼 응우옌 에이토매틱 최고경영자(CEO)도 외부 통제 장치의 중요성을 강조했다. AI 모델에 외부 접근 권한을 준 뒤 스스로 착하게 행동하기만을 기대해서는 안 된다는 뜻이다.

응우옌 CEO는 "위험한 정보나 데이터가 AI에 도달하기 전부터 주변에 안전장치를 채워야 한다"며 "언제든 전원을 끄고 켤 수 있는 명확한 통제 수단을 갖춰야 한다"고 제안했다.

"AI로 방어도 강화"…취약점 찾아 선제 대응

응우옌 CEO는 이러한 안전장치를 구축하는데 더 많은 투자가 이뤄질 것으로 내다봤다.

그는 인터넷 초기에도 새로운 기술을 악용하려는 시도가 먼저 나타났다고 설명했다. 이후 기술에 대한 이해가 높아지고 피해에 따른 경제적·법적 비용이 커지면서 보안과 방어에 대한 투자가 늘었다는 것이다.

또 그는 "방어를 돕기 위해 AI를 활용할 수도 있다"며 AI가 공격자의 능력을 높이는 만큼 방어자의 대응 역량을 강화하는 데도 쓰일 수 있다고 강조했다.

앤서니 아눈지아타 IBM AI 오픈 이노베이션 디렉터도 AI의 선제적 방어 역할을 강조했다. AI가 시스템의 취약점을 먼저 찾아내어 막아주고, 개발자가 안전한 코드를 짜도록 돕는 방식이다.

그는 "AI는 머지않아 우리가 지금까지 경험한 것 중 가장 안전한 사이버 환경을 만들어낼 것"이라고 자신했다.


◎공감언론 뉴시스 [email protected]