유드코스키 MIRI 설립자, SDF 2026 참석차 방한해 초지능 개발 전면 중단 촉구
"똑똑한 AI가 인간 뜻 따르는 것 아냐…체스 게임처럼 인간 통제 벗어날 것"
"한 회사만 멈춰선 안 돼"…국제협약·한국 역할도 강조
![[서울=뉴시스]오동현 기자 = 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자가 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 인터뷰를 진행했다. odong85@newsis.com](https://img1.newsis.com/2026/11/04/NISI20261104_0002283055_web.jpg?rnd=20261104155257)
[서울=뉴시스]오동현 기자 = 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자가 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 인터뷰를 진행했다. [email protected]
[서울=뉴시스]오동현 기자 = "변명을 하자면, 당시 저는 스무 살이었습니다."
초지능 개발을 멈춰야 한다고 주장하는 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자도 한때는 인간보다 똑똑한 인공지능(AI)을 만들려 했다.
생각이 달라진 계기를 묻자 그는 회한에 잠겼다. AI가 아무리 똑똑해진다고 해서 인간의 뜻과 목표까지 순순히 따르는 것은 아니라는 사실을 뒤늦게 깨달았기 때문이다.
AI가 인간이 원하는 목표를 따르도록 하려면 별도의 노력이 필요하다는 사실을 처음 알아차린 뒤, 그 노력이 실패했을 때의 위험을 받아들이기까지는 약 2년이 걸렸다고 했다.
SBS D포럼(SDF 2026) 참석차 방한한 유드코스키는 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 만나 "그 깨달음이 부끄러울 만큼 느리고 오래 걸렸다"고 말했다.
그가 말하는 초지능은 바둑이나 수학만 잘하는 AI가 아니다. 과학 연구와 공학, 설득과 전략 수립에서도 인류 전체보다 뛰어난 AI다.
그는 "초지능은 사람이 아는 것을 모두 알고, 사람보다 더 많이 예측한다. 선택지도 보다 더 많이 보고, 그것들을 더 잘 평가한다"고 설명했다.
이런 상황을 체스 대결에 빗댔다. 그는 "한 사람이 상대를 이길 방법을 찾았다고 생각했을 때, 더 뛰어난 상대는 이미 그 방법을 예상하고 대응책까지 마련했을 수 있다"면서 이런 초지능이 등장했을 때, 사람이 통제할 수 있겠느냐는 것이 그의 우려다.
그는 그동안 AI가 인간이 원하는 목표를 따르도록 만드는 '정렬' 문제를 고민해왔다. 문제를 푸는 능력이 뛰어난 AI를 만드는 것과 그 능력을 인간이 원하는 방향으로 사용하게 하는 것은 다른데, 이 연구가 충분히 진전되지 않고 있다고 봤다.
이에 그는 "초지능 개발의 속도를 늦추는 것보다 멈추라고 말하겠다"며 단호한 입장을 밝혔다.
유드코스키는 AI를 악용할 테러리스트나 악당을 막는 것만으로는 안전을 보장할 수 없다고 단언했다. AI 스스로가 인간의 통제선 밖으로 튕겨 나갈 수 있어서다.
그는 테러리스트의 손에 들어가지 않게 막더라도 AI를 계속 더 강력하게 만들면 결국 파국으로 끝날 것이라고 경고했다.
법과 제도로 안전한 개발 환경을 가다듬을 수 있다는 낙관론에도 명확히 선을 그었다.
그는 "현재 수준의 AI가 테러리스트의 생물무기 개발을 돕지 못하게 하는 일과 인류 전체보다 똑똑한 것을 만들어 통제하려는 일을 혼동하는 것은 잘못"이라고 강조했다.
지금의 AI가 위험한 요청을 거절하도록 만들었다고 해서, 인간보다 훨씬 똑똑한 AI도 통제할 수 있다는 뜻은 아니라는 설명이다.
질병을 치료하고 인류의 난제를 풀려면 더 강력한 AI가 필요하지 않느냐는 질문에 대해선 "암을 치료하겠다는 AI를 만들었는데, 암을 치료하는 대신 모두를 죽게 한다면 좋은 거래라고 생각하지 않는다"고 답했다.
다만 모든 AI의 개발을 멈추자는 뜻은 아니라고 말했다. 그는 단백질의 입체 구조를 예측하는 AI '알파폴드' 등을 예로 들며 특정 분야에 특화된 AI에서는 상대적으로 위험이 적은 혜택을 얻을 수 있다고 봤다.
그가 경계하는 것은 AI가 스스로 더 뛰어난 AI를 만드는 것이다. 그 AI가 다시 다음 세대 AI를 개발하는 과정이 반복되면 발전 속도가 계속 빨라질 수 있다고 경고했다.
그는 "이런 변화에 몇 달이 걸릴지, 몇 년이 걸릴지는 알 수 없지만, 시점이 불확실하다는 이유로 개발을 계속해도 되는 것은 아니다"라고 강조했다.
경쟁국과 경쟁사가 계속 개발하는데 중단이 가능하겠느냐는 질문에는 국제협약을 제시했다.
그는 "한 회사가 멈춘다고 중단되는 것은 아니다. 조약이 필요하다"고 말했다.
MIRI도 활동의 무게중심을 옮겼다고 했다. 그는 "초지능의 위험성을 대중과 세계에 알리고, 조약이 어떤 모습이어야 할지 세부 내용을 마련하는 쪽으로 노력을 더 기울이고 있다"고 밝혔다.
한국의 역할에 대해선 "초지능 개발 중단에 동참할 준비가 돼 있다는 입장을 밝혀야 한다"며 국제협약에 참여할 기반을 마련하라고 제안했다.
특히 한국이 고대역폭메모리(HBM) 등 AI 반도체 공급망에서 가진 영향력을 다른 국가들과의 협력에 활용해야 한다고 주장했다. 그는 메모리 반도체를 최대한 많이, 높은 가격에 판매하는 데만 집중하기보다 초지능 개발 중단을 위한 국제협약에 맞춰 수출을 통제할 준비도 할 수 있다고 제안했다.
그는 "한 국가가 할 수 있는 일에는 한계가 있다"며 미국과 중국 모두에 국제협약 동참을 촉구했다. 그러면서 "AI 군비경쟁의 승자는 AI밖에 없다"고 경고했다.
◎공감언론 뉴시스 [email protected]
초지능 개발을 멈춰야 한다고 주장하는 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자도 한때는 인간보다 똑똑한 인공지능(AI)을 만들려 했다.
생각이 달라진 계기를 묻자 그는 회한에 잠겼다. AI가 아무리 똑똑해진다고 해서 인간의 뜻과 목표까지 순순히 따르는 것은 아니라는 사실을 뒤늦게 깨달았기 때문이다.
AI가 인간이 원하는 목표를 따르도록 하려면 별도의 노력이 필요하다는 사실을 처음 알아차린 뒤, 그 노력이 실패했을 때의 위험을 받아들이기까지는 약 2년이 걸렸다고 했다.
SBS D포럼(SDF 2026) 참석차 방한한 유드코스키는 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 만나 "그 깨달음이 부끄러울 만큼 느리고 오래 걸렸다"고 말했다.
"AI는 당신이 아는 것을 모두 알고, 더 많은 선택지를 본다"
그는 "초지능은 사람이 아는 것을 모두 알고, 사람보다 더 많이 예측한다. 선택지도 보다 더 많이 보고, 그것들을 더 잘 평가한다"고 설명했다.
이런 상황을 체스 대결에 빗댔다. 그는 "한 사람이 상대를 이길 방법을 찾았다고 생각했을 때, 더 뛰어난 상대는 이미 그 방법을 예상하고 대응책까지 마련했을 수 있다"면서 이런 초지능이 등장했을 때, 사람이 통제할 수 있겠느냐는 것이 그의 우려다.
그는 그동안 AI가 인간이 원하는 목표를 따르도록 만드는 '정렬' 문제를 고민해왔다. 문제를 푸는 능력이 뛰어난 AI를 만드는 것과 그 능력을 인간이 원하는 방향으로 사용하게 하는 것은 다른데, 이 연구가 충분히 진전되지 않고 있다고 봤다.
이에 그는 "초지능 개발의 속도를 늦추는 것보다 멈추라고 말하겠다"며 단호한 입장을 밝혔다.
"테러리스트 손에 안 들어가도 문제"
그는 테러리스트의 손에 들어가지 않게 막더라도 AI를 계속 더 강력하게 만들면 결국 파국으로 끝날 것이라고 경고했다.
법과 제도로 안전한 개발 환경을 가다듬을 수 있다는 낙관론에도 명확히 선을 그었다.
그는 "현재 수준의 AI가 테러리스트의 생물무기 개발을 돕지 못하게 하는 일과 인류 전체보다 똑똑한 것을 만들어 통제하려는 일을 혼동하는 것은 잘못"이라고 강조했다.
지금의 AI가 위험한 요청을 거절하도록 만들었다고 해서, 인간보다 훨씬 똑똑한 AI도 통제할 수 있다는 뜻은 아니라는 설명이다.
"암 치료 AI 필요하지 않나"…알파폴드 혜택은 인정
다만 모든 AI의 개발을 멈추자는 뜻은 아니라고 말했다. 그는 단백질의 입체 구조를 예측하는 AI '알파폴드' 등을 예로 들며 특정 분야에 특화된 AI에서는 상대적으로 위험이 적은 혜택을 얻을 수 있다고 봤다.
그가 경계하는 것은 AI가 스스로 더 뛰어난 AI를 만드는 것이다. 그 AI가 다시 다음 세대 AI를 개발하는 과정이 반복되면 발전 속도가 계속 빨라질 수 있다고 경고했다.
그는 "이런 변화에 몇 달이 걸릴지, 몇 년이 걸릴지는 알 수 없지만, 시점이 불확실하다는 이유로 개발을 계속해도 되는 것은 아니다"라고 강조했다.
"한 회사만 멈춰선 안 돼…한국도 준비할 수 있어"
그는 "한 회사가 멈춘다고 중단되는 것은 아니다. 조약이 필요하다"고 말했다.
MIRI도 활동의 무게중심을 옮겼다고 했다. 그는 "초지능의 위험성을 대중과 세계에 알리고, 조약이 어떤 모습이어야 할지 세부 내용을 마련하는 쪽으로 노력을 더 기울이고 있다"고 밝혔다.
한국의 역할에 대해선 "초지능 개발 중단에 동참할 준비가 돼 있다는 입장을 밝혀야 한다"며 국제협약에 참여할 기반을 마련하라고 제안했다.
특히 한국이 고대역폭메모리(HBM) 등 AI 반도체 공급망에서 가진 영향력을 다른 국가들과의 협력에 활용해야 한다고 주장했다. 그는 메모리 반도체를 최대한 많이, 높은 가격에 판매하는 데만 집중하기보다 초지능 개발 중단을 위한 국제협약에 맞춰 수출을 통제할 준비도 할 수 있다고 제안했다.
그는 "한 국가가 할 수 있는 일에는 한계가 있다"며 미국과 중국 모두에 국제협약 동참을 촉구했다. 그러면서 "AI 군비경쟁의 승자는 AI밖에 없다"고 경고했다.
◎공감언론 뉴시스 [email protected]
