유발 하라리 "지금 큰 위협은 AI보다 인간사회 분열"[조수원 BOOK북적]

[서울=뉴시스]조수원 기자 = "AI(인공지능)를 이해하기 위해 알아야 할 중요한 것은 AI는 도구가 아니라 행위자입니다. AI는 스스로 배우고 변하며 새로운 것을 만들어내고 결정 내릴 수 있는 능력을 갖추고 있습니다."

'사피엔스'와 '호모 데우스' 저자인 유발 하라리 예루살렘 히브리대 교수가 6년 만의 신작 '넥서스(연결)'를 통해 AI 혁명이 인류에게 가져올 위험성을 경고한다.

유발 하라리는 "현재 인류는 새로운 정보 기술의 부상으로 인해 위협받고 있다"며 "21세기 AI는 강력한 네트워크의 연결을 만들어 후손들이 AI의 거짓과 허위를 폭로할 엄두조차 내지 못하게 만들지도 모른다"고 전한다.

책 '넥서스'는 석기시대부터 AI까지 정보 네트워크를 바탕으로 인류의 역사를 소개한다. 유발 하라리는 호모 사피엔스(지혜로운 인간)인 인류가 왜 자기 파괴적인가에 초점을 맞춘다.
하라리 교수는 오늘날 인류의 자기 파괴 원인으로 '정보'를 지목한다. 인류는 AI가 제공하는 정보를 이용하면서도 편향성을 의식하지 못한다고 봤다.

그는 "AI가 편향이 있을 수 있겠냐고 생각하지만 훈련을 받으려면 데이터가 필요하다"며 "이 데이터는 편향된 경우가 많아서 AI도 편향될 수밖에 없다"고 말했다. 그는 "세계 전역에 존재하는 거의 모든 데이터베이스에는 어떤 종류든지 여성·인종·성적 소수자 등을 향한 편향에 물들었다"고 전한다.

그럼에도 하라리 교수는 AI의 탈편향화가 가능하다고 여긴다. 탈편향화를 위해서 철학자와 역사학자, 사회과학자 등의 의무가 중요하다고 본다.

하라리 교수는 "철학자와 역사학자, 사회과학자들이 엔지니어나 정치인에게, 사회에 위험이 있다는 걸 끊임없이 상기시켜 탈편향을 일어나게 하는 것이 우리의 임무"라고 강조한다.

전 지구적인 차원에서 AI 발전이 초래할 문제도 언급한다.

하라리 교수는 "19세기 산업혁명 당시와 비슷한 문제가 21세기 AI 관련해서 일어나지 않을까 하는 우려가 있다"며 "당시 소수의 나라가 산업혁명을 주도했고 이 나라들이 앞선 기술로 전 세계를 침탈하고 지배하는 현상 있었다"고 한다. 그는 "몇몇 국가가 AI 기술 선도주자로 나서고 있는데 다른 국가를 지배·착취할 수 있는 그런 위치에 올라갈 가능성이 크다"고 했다.
"지금 큰 위협은 AI보다 인간사회 분열입니다. 인류가 다 같이 새 기술을 절제적으로 사용할지 함께 고민하고 노력하면 (AI 통제가) 가능할 것입니다. AI의 잠재력을 인류의 이로움을 위해 충분히 쓰는 게 가능할 수 있습니다."

결국 하라리 교수는 기술적 문제를 해결하는 근원적 방법이 인간 내부에서 찾을 수 있다고 강조한다.

"우리가 해야 할 질문은 '인류가 어떻게 분열 상태를 극복할 것인가'입니다. 내부 분열을 극복하지 못하고 만약 AI가 인류를 통제할 힘을 얻게 된다면 어찌할 수 없는 사태가 발생할 것입니다."


◎공감언론 뉴시스 [email protected]