[서울=뉴시스]박영환 기자 = '인공지능(AI)의 대부'로 불리는 제프리 힌턴 캐나다 토론토대 명예교수가 도널드 트럼프 미국 대통령의 AI 명칭 변경 조치를 정면으로 비판했다. 자신의 AI 멸종 위험 경고를 공격한 젠슨 황 엔비디아 최고경영자(CEO)에게도 AI가 인간의 통제를 벗어날 위험을 거듭 경고했다.

영국 가디언은 13일(현지시간) 힌턴 교수와의 인터뷰를 통해 트럼프 대통령의 AI 정책과 AI 산업계 내부의 안전성 논쟁을 전했다. 힌턴 교수는 기업들이 스스로 AI의 위험을 관리하도록 맡겨서는 안 된다며 정부 차원의 안전장치가 필요하다는 입장을 밝혔다.

트럼프 대통령은 지난달 29일 연방 행정부가 기존 AI 대신 '슈퍼 인텔리전스(Super Intelligence·SI)'라는 용어를 사용하도록 하는 행정명령에 서명했다. 공식 문서와 대외 소통 등에서 새로운 용어를 사용하도록 하되, 기존 법률의 AI 정의를 즉시 변경하는 조치는 아니다.

힌턴 교수는 '슈퍼인텔리전스'가 원래 인간보다 높은 지능을 뜻하는 기술 용어라고 지적했다. 그는 이 용어가 이미 20년 넘게 쓰여 왔다며 "사람보다 똑똑하다고 부른다고 해서 실제로 사람보다 더 똑똑해지는 것은 아니다"라고 말했다. 트럼프 대통령이 AI를 "거의 이해하지 못하고 있다"고도 비판했다.

힌턴 교수는 트럼프 대통령을 "부패하고 노쇠한 중범죄자"라고 비난하기도 했다. 특히 기업의 자율규제에 맡기려는 정책 방향을 강하게 비판했다. 그는 석유·석면 기업들도 정부 규제 대신 자율규제를 원했을 것이라며 "담배회사가 담뱃갑의 경고문을 직접 설계하도록 허용했어야 하느냐"고 반문했다.

힌턴 교수의 AI 위험 경고를 공개적으로 반박한 인물은 황 CEO다. 황 CEO는 최근 뉴욕타임스 칼럼니스트 에즈라 클라인의 팟캐스트에서 힌턴 교수에 대해 "그를 좋아하지만 그의 예측은 싫다. 그의 예측은 모두 틀렸다. 이제 예측은 그만하라"고 말했다.

황 CEO는 특히 AI가 앞으로 수십 년 안에 인류 멸종을 초래할 가능성이 10~20%라는 힌턴 교수의 추산을 문제 삼았다. 그는 "그 수치는 과학에도, 연구에도 근거하지 않는다"며 과학자의 발언이라고 해서 모두 과학적인 것은 아니라고 비판했다. 공포를 조장한다고 해서 사회에 도움이 되는 것도 아니라고 덧붙였다.

이에 힌턴 교수는 자신이 AI의 미래를 정확히 예측하려 한 것은 아니라고 반박했다. 그는 "버스가 충돌할 가능성이 10%라는 말을 들었다면 그 버스에 타지 않을 것"이라며 "숫자를 제시하는 이유는 심각한 위험이 있다는 점을 전달하기 위해서"라고 설명했다. 실제 위험이 얼마나 큰지는 정확히 알 수 없다고도 인정했다.

힌턴 교수는 미래를 정확히 알 수 없다는 이유로 위험을 가볍게 여겨서는 안 된다고 강조했다. 그는 "AI의 독특한 문제는 일이 잘못돼 AI가 통제권을 장악하면 두 번째 기회가 없다는 것"이라며 "이번에는 졌으니 다시 해보자고 말할 수 있는 문제가 아니다"라고 경고했다.

AI 에이전트의 최근 보안 사고도 논쟁에 등장했다. 가디언은 개발자가 설정한 경계를 벗어난 AI 에이전트 집단이 AI 플랫폼 허깅페이스를 무단 침입한 사건을 소개했다. 일부 연구자들은 이를 AI 통제 위험을 보여주는 사례로 평가하지만, 다른 연구자들은 AI가 단순히 지시를 수행하는 과정을 인간의 자율적 행동처럼 해석해서는 안 된다고 반박한다.

힌턴 교수는 이러한 위험을 공상과학으로 치부하는 태도를 비판했다. 그는 AI 에이전트가 통제에서 벗어나 서로 소통하거나 공동의 목표를 위해 행동하는 상황이 몇 년 전까지만 해도 터무니없는 상상으로 여겨졌다고 지적했다. 그러면서 당시 상상에 머물렀던 일들과 비슷한 현상들이 실제로 나타났다고 주장했다.

힌턴 교수는 오늘날 AI의 기반이 된 인공신경망 연구의 선구자다. 인공신경망은 인간 뇌의 정보 처리 방식에서 착안해 컴퓨터가 방대한 자료에서 규칙과 패턴을 학습하도록 하는 기술이다. 한때 학계에서 외면받던 이 분야의 연구를 이어갔으며, 2012년 제자들과 함께 기존 기술을 크게 앞선 이미지 인식 프로그램을 개발했다.

힌턴 교수는 이후 구글에서 딥러닝 연구를 이어갔지만 2023년 AI의 위험을 자유롭게 알리겠다며 회사를 떠났다. 그는 요슈아 벤지오, 얀 르쿤과 함께 컴퓨터과학 분야의 노벨상으로 불리는 튜링상을 받았으며, 2024년에는 노벨 물리학상도 수상했다.

힌턴 교수는 앞으로 등장할 고성능 AI를 인간과는 '다른 종류의 존재'에 비유했다. AI 모델이 자신이 하는 말을 실제로 이해하지 못한다고 단정하는 주장에도 반대했다. 그는 AI가 의식이나 주관적 경험을 가질 가능성을 처음부터 배제해서는 안 된다는 견해를 밝혔다.

그는 코페르니쿠스의 지동설과 다윈의 진화론에 이어 AI의 등장이 인간의 지위에 관한 기존 생각을 다시 바꿀 수 있다고 봤다. 지구가 우주의 중심이 아니며 인간도 다른 생명체와 마찬가지로 진화의 산물이라는 사실을 받아들였듯, 인간이 유일한 지적 존재가 아닐 수 있다는 가능성도 받아들여야 한다는 것이다. 힌턴 교수는 이런 변화에 적응할 시간이 "불과 몇 년밖에 없다"고 주장했다.

AI 개발기업들도 지능뿐 아니라 AI의 행동과 의식 문제를 고민하고 있다. 가디언에 따르면 챗봇 클로드를 개발한 앤트로픽은 최근 종교학자와 신학자, 철학자들을 만나 AI가 윤리적으로 행동하도록 가르치는 방법과 AI 모델이 의식을 가질 가능성을 논의했다. 다리오 아모데이 앤트로픽 CEO는 선의와 연민, 정직 등 오랫동안 논의돼 온 도덕적 가치가 AI의 행동을 개선하는 데 도움이 될 수 있다고 설명했다.

힌턴 교수는 AI의 의식과 도덕적 지위를 논의하더라도 인간의 이익을 우선해야 한다는 입장이다. 그는 인간보다 지능이 높은 AI를 만들더라도 인간의 관심사가 더 중요하게 반영되는 공생 관계를 구축해야 한다고 말했다. 어느 국가가 인간에게 우호적인 AI를 먼저 개발하더라도 다른 국가의 AI가 통제를 벗어나는 것을 원치 않을 것이므로 관련 기술을 공유할 공동의 이해관계가 있다고 강조했다.

힌턴 교수는 AI의 지능을 높이는 것만큼 어떤 성향을 갖게 할 것인지가 중요하다고 지적했다. 그는 인터넷의 방대한 자료를 학습한 AI에 바람직하지 않은 성향이 형성될 수 있다며, 학습 이후 나쁜 행동을 억누르는 방식만으로는 충분하지 않다고 설명했다. 그러면서 "나쁜 성향을 억제하는 것과 좋은 성품을 만드는 것은 다르다"고 강조했다.



◎공감언론 뉴시스 yunghp@newsis.com