[서울=뉴시스]허준희 인턴 기자 = 인공지능(AI) 개발에 참여했던 연구원과 빅테크 기업 관계자들까지 위험성을 경고하고 나선 가운데, 전문가들은 인간이 AI에 판단을 맡기면서 주도성을 잃는 문제에 주목해야 한다고 지적했다.

지난 14일 구독자 283만명을 보유한 '최욱의 매불쇼'에 출연한 AI 전문가 김덕진 소장과 이진우 포스텍 명예교수, 김상균 경희대 교수는 AI 기술의 급격한 발전과 안전 문제를 논의했다.

최근 AI 업계에서 기술 발전 속도가 지나치게 빨라질 수 있다는 경고가 잇따르고 있다. 이에 따라 김 소장은 AI가 스스로 다음 세대의 AI 개발을 돕는 이른바 '재귀적 자기개선'이 빨라질 경우 인간이 검증하는 속도를 AI의 발전 속도가 앞지를 수 있다고 우려했다.

김 소장은 "AI가 스스로 자기개선을 하고 움직이기 시작하면서 사람들이 확인하는 것보다 속도가 빨라지고 있다"며 "사람이 확인하고 내용을 점검하는 것보다 AI가 스스로 무언가를 만들어 통제를 벗어나는 일이 생길 수 있다는 두려움이 생기기 시작했다"고 설명했다.

이 교수가 주목한 문제는 AI 자체가 인간을 공격하는 상황보다 인간이 AI에 의존하면서 스스로 판단하는 능력을 잃는 것이다. 이 교수는 "인공지능에 어려운 문제들을 전부 의탁하게 되면 우리 인간이 가지고 있는 고유한 판단 역량이 쇠퇴할 수도 있다"며 "스스로 판단하고 스스로 생각하는 근육도 키워야 한다"고 강조했다.

김 교수도 AI의 위험이 인간의 일상과 조직에서 이미 나타날 수 있다고 봤다. 그는 "AI가 판단해 준 것에 따라서 실행만 하다 보면 모두가 시키는 사람이 아니라 받아서 움직이는 사람이 된다"며 "인간이 스스로 뭔가 하고자 하는 의도가 없어지고 방향성을 못 잡게 될 수 있다"고 말했다.

AI의 작동 원리를 인간이 완전히 이해하기 어렵다는 점도 위험 요인으로 꼽혔다. 김 교수는 "AI는 누구도 작동 방식을 정확하게 설명하지 못하고 있다"며 "어떤 문장을 입력했을 때 어떤 결과가 나올지 대략 알 수는 있지만 정확하게 예측할 수는 없다"고 말했다.



또한 한 국가가 개발을 멈추면 다른 국가가 앞서갈 수 있다는 우려 때문에 각국이 AI 개발을 포기하기 어려워지고, 결국 모두가 합리적으로 행동하더라도 결과적으로 모두에게 해가 되는 상황이 발생할 수 있다.  이 교수는 이를 두고 "집단적 무책임의 상태에 올 수도 있다"고 경고했다.

김 소장은 특히 미국과 중국의 AI 경쟁이 안전 문제와 맞물릴 가능성을 지적했다. 그는 "미국식 AI와 중국식 AI가 나뉠 수 있는 계기가 나올 수 있다"며 "그렇게 되면 안전에 대한 협력이나 합의를 하기가 더 어려워질 수 있다"고 말했다.

그러면서 한국이 AI 기술과 국제 규범 사이에서 역할을 할 가능성도 제시했다. 김 소장은 "어려운 문제지만 안전에 대한 가이드라인을 만들고 움직이는 것이 중요하다"며 AI 기술뿐 아니라 안전 기준을 만드는 논의에도 적극적으로 참여해야 한다고 강조했다.


◎공감언론 뉴시스 gjwnsgml5330@newsis.com