유발 하라리 "AI로 파국적인 세계 금융위기 올 수 있다"

[서울=뉴시스] 김하은 인턴 기자 = 이스라엘 유명 역사학자이자 책 ‘사피엔스’의 저자인 유발 하라리 예루살렘히브리대 교수가 인공지능(AI)이 재앙적인 금융 위기를 일으킬 수 있다고 말했다.

9일(현지시간) 영국 가디언에 따르면 유발 하라리는 인터뷰에서 “금융 분야는 데이터로만 이뤄져있기 때문에 AI를 적용하기에 이상적인 분야다”라고 말하면서도 “만약 세계 금융시스템에 대한 더 큰 통제권이 AI에 주어지고, AI만이 이해할 수 있는 새로운 금융장치를 만들어 낸다면 어떤 일이 벌어지겠는가”라며 우려의 목소리를 냈다.

그는 2007~2008년 금융위기가 소수의 사람만 이해하는 부채담보부증권(CDO)와 같은 금융상품에 의해 발생했으며 규제가 충분히 이뤄지지 못했다고 말했다.

하라리는 “AI는 CDO보다 훨씬 복잡한 금융 장치를 만들 가능성이 있다”고 말했다. “AI가 어떤 인간도 이해할 수 없고 그래서 규제할 수도 없는 금융 시스템을 만든다면 금융 위기가 발생해도 아무도 무슨 일이 일어나고 있는지 알지 못할 것”이라고 강조했다.

그는 “AI가 만든 금융 위기는 직접적인 것이 아니다”라며 “간접적으로 전쟁이나 갈등을 유발할 수 있다. 이는 경제·사회·정치적으로 재앙적인 위험이다”라고 덧붙였다.

하라리는 AI와 관련해 “핵무기와는 달리 크고 위험한 단일 시나리오는 없다”면서도 “매우 많은 수의 위험한 개별 시나리오들은 있다. 시나리오들이 발생할 확률은 상대적으로 작지만, 일어날 경우 인류 문명의 생존에 위협이 될 수 있다”고 밝혔다.

그는 “AI는 스스로 결정을 내릴 수 있고, 새로운 아이디어를 창조할 수 있으며, 스스로 학습하고 발전할 수 있는 최초의 기술이다. 심지어 이 기술을 창조한 인간도 모든 잠재적인 위험과 문제를 예측하기는 매우 어렵다”고 말했다.

그는 규제와 법률을 만드는 것이 아니라 새로운 문제가 등장할 때 기술 관련 지식을 갖춰 이에 신속하게 대응할 수 있는 규제 기관을 만들어야 한다고 주장했다.

하라리는 “모든 위험과 문제를 사전에 예측할 수 없고, 사전에 문제 대응을 위한 법을 만들 수도 없으므로 위험이 발생했을 때 이에 대응할 수 있는 강력한 규제 기관을 가능한 한 빨리 만들어야 한다”고 말했다.

또 하라리는 AI 안전성 관련 기관들이 AI가 금융계에 미칠 수 있는 영향을 파악한 전문가들을 고용해야 한다고 강조했다.

지난달 영국 리시 수낵 총리가 영국 AI안전연구소의 설립을 발표한 데 이어 며칠 후 미국 백악관이 유사한 기관에 대한 설립 계획을 발표했다. 두 기관 모두 AI 모델을 검사하는 데 핵심적인 역할을 할 것으로 예상된다. 수낵 총리는 지난 1일 영국 블레츨리파크에서 열린 ‘AI 안전성 정상회의’에서 영국이 AI 모델을 다루기 위한 법안을 도입하기 전에 AI 모델의 능력을 먼저 이해할 필요가 있다고 밝혔다.


◎공감언론 뉴시스 [email protected]