[서울=뉴시스]오동현 기자 = "갑자기 인공지능(AI) 로봇이 세계를 장악한다는 구상은 공상과학일 뿐이다."

2018년 튜링상 수상자인 얀 르쿤 AMI랩스 회장은 12일 서울 웨스틴조선에서 열린 '산업 AI 글로벌 협력' 기자간담회에서 AI의 통제 상실 위험에 관한 질문에 이같이 밝혔다.

AI 대부라 불리는 그가 이른바 'AI 종말론'에 선을 그은 것이다. 다만 현재 언어모델(LLM)의 통제 방식에는 한계가 있다고 지적했다. AI의 위험을 관리하려면 행동의 결과를 예측하고, 실제 실행 단계에서 안전 제약을 지키도록 설계해야 한다는 입장이다.

◆"초인간적 AI 단번에 안 나와"…수학·코딩 외엔 인간 지식 재탕일 뿐

르쿤 회장은 "인간을 뛰어넘은 AI가 어느 날 갑자기 나타나 세계를 장악한다는 생각은 공상과학이 만든 환상"며 "현실 세계에서는 일이 그런 식으로 일어나지 않는다"고 주장했다. AI의 발전은 한 번의 발견으로 완성되는 것이 아니라 여러 기술 혁신이 축적되는 점진적인 과정이라는 설명이다.

현재 AI의 능력과 한계도 구분해야 한다고 강조했다. 르쿤 회장은 "수학과 코딩 등 일부 한정된 분야를 빼면 현재 AI가 주로 하는 일은 이미 알려진 인간의 지식을 조합하고 되풀이하는 수준”이라고 말했다.

이어 재료과학이나 의약품 설계 등에서 새로운 발견을 이끌어내려면 해당 분야를 이해하도록 설계된 별도의 AI 시스템이 필요하다고 설명했다. 그러면서 "이런 시스템은 언어모델이 아니라 특정 영역을 이해하도록 만들어진 시스템"이라고 강조했다.

◆질문 무한한데 학습은 한계… 행동 단계서 막는 '목표 기반 AI' 대안

르쿤 회장은 현행 AI의 안전성 문제점을 인정했다. 특히 언어모델을 말로만 통제하는 방식의 허점을 꼬집었다.

현재 언어모델은 위험한 질문에 답하지 않도록 사전에 훈련하는 방식으로 통제된다. 그러나 인간의 질문 형태가 무한하기 때문에 모든 위협 상황을 사전에 학습시키는 일은 불가능하다. 해커들이 보안망을 뚫고 금지된 답변을 유도하는 '탈옥' 공격에 취약한 이유다.

대안으로는 자신이 제안해 온 '목표 기반 AI(objective-driven AI)'를 소개했다. 세상의 작동 방식을 이해하는 '월드 모델'을 통해 행동의 결과를 예측하고, 주어진 목표를 달성하는 과정에서 안전 제약을 충족하도록 설계하는 구상이다.

핵심은 안전 규칙을 학습 과정에만 반영하는 것이 아니라 AI가 실제로 판단하고 행동하는 실행 단계에서 적용하는 데 있다.

르쿤 회장은 "요리하는 가정용 로봇의 경우 주변에 사람이 있으면 칼을 들고 팔을 빠르게 휘두르지 못하도록 시스템 자체를 제한할 수 있다"며 "사회의 법과 같은 규칙을 AI의 의사결정 구조에 직접 반영해야 한다"고 설명했다.

◆"AI 안전은 제트엔진 같은 공학적 과제"… 통제 기술 발전시켜야

르쿤 회장은 AI 안전을 설계와 검증을 통해 해결해야 할 공학적 문제로 규정했다.

그는 "이것은 공학적 문제지만, 쉽진 않다"면서 "극한의 환경에서도 작동하는 제트엔진을 만든 것처럼 AI 역시 안전성을 높이는 기술을 발전시켜야 한다"고 주장했다.

다만 완벽한 안전장치는 없다는 점도 인정했다. '월드 모델'이 현실 세계를 잘못 이해하면, AI가 안전하다고 판단한 행동이 실제로는 큰 피해를 가져올 수 있기 때문이다. 르쿤 회장은 예측 오류를 줄여나가는 것이 향후 해결해야 할 핵심 기술 과제라고 보았다.

간담회에 함께 참석한 크리스토퍼 응우옌 에이토매틱(Aitomatic) 공동창업자 겸 최고경영자(CEO)도 르쿤 회장의 의견에 동의했다. 그는 불이 유용하지만 화상을 입힐 수 있다는 점을 예로 들며, 위험이 있다는 이유만으로 기술 사용을 포기하기보다 통제 체계를 마련해야 한다고 설명했다.


◎공감언론 뉴시스 odong85@newsis.com