[에세이 요지] 빌 게이츠 “격동의 AI 시대, 규제와 대비·국제적 협력 필요”

[서울=뉴시스] 구자룡 기자 = 마이크로소프트 창업자 빌 게이츠는 26일 자신의 블로그 ‘게이츠 노트’에 ‘격동의 인공지능(AI) 시대가 도래했다. 지금 우리가 내리는 선택이 매우 중요하다’는 제목으로 5784 단어 분량의 장문 에세이를 올렸다.

그가 AI를 주제로 글을 올리기는 3년만이다. AI 혁명에 큰 기대를 걸었고 위험에 대해 낙관했던 것과는 크게 달라졌다.

그는 AI가 인간 사회의 고용, 안전 및 복지에 미칠 수 있는 피해에 대비하기 위해 적절한 규제와 국제적 협력이 필요하다고 촉구했다.

개발을 금지하는 공공토지처럼 특정 직종에 AI를 도입하지 않고 남겨두는 ‘인간 전용’ 영역도 설정하자고 제의했다. 다음은 요지.

나는 평생 동안 두 개의 직업만 가져봤다. 마이크로소프트(MS)에서 소프트웨어를 개발하는 일과 MS에서 쌓은 재산을 사회에 환원하는 것으로 남은 평생 할 일이다.

AI라는 말은 내가 태어날 무렵부터 사용됐지만 눈에 띄게 발전한 것은 지난 10년 동안이다. AI는 처음으로 인간의 인지 능력을 대체하고 심지어 능가할 수도 있다.

AI는 역사상 가장 위대한 평등화 도구가 될 수도 있고, 최악의 불의의 원천이 될 수도 있다.

최상의 상황에서도 AI 시대로의 전환은 인류 역사상 가장 격동적인 시기 중 하나가 될 것이다.

이 기술을 활용해 세상을 더욱 공정하게 만들고 AI으로 가장 큰 피해를 입을 수 있는 사람들을 어떻게 보호할 수 있을까. 이것이 세계의 최우선 과제가 되어야 한다고 생각한다.

하지만 유감스럽게도 우리는 이에 대한 준비를 하고 있지 않다. 이러한 도전에 적절히 대처하고 있다는 증거를 찾아볼 수 없다.

많은 논평가들이 AI가 미칠 영향의 규모를 과소평가하고 있는 이유가 몇 가지 있다.

AI 모델이 여전히 오류를 범한다고 생각한다. 이제 머지않아 많은 작업에서 인간보다 훨씬 뛰어난 성능을 발휘할 것이다.

과거 혁신의 영향과 비교하는 것은 오해를 불러일으킬 수 있다.

개인용 컴퓨터(PC)가 등장했을 때 소프트웨어 개발, 가격 인하, 그리고 사람들이 도구 사용법을 익히고 업무 프로세스에 통합하는 데 20년이 걸렸다.

반면 AI은 우리가 이미 가지고 있는 기기에서 작동하고 자연어를 사용한다. 우리가 AI에 맞춰야 할 필요가 없고 AI가 우리에게 맞춰준다.

우리는 사회적, 정치적, 경제적 격변에 대비할 시간이 필요하다.

가장 많은 시간이 필요한 사람들은 가장 시간이 부족한 사람들이다. 로봇에게 일자리를 빼앗기는 회계 담당자나 시간당 20달러를 받던 노동자가 시간당 10달러짜리 로봇에게 일자리를 빼앗기는 경우가 바로 그런 사람들이다.

AI은 보고, 듣고, 말하고, 추론할 수 있을 뿐 아니라 인간처럼 육체적인 노동도 능숙하게 해낼 수 있어 특정 분야에만 영향을 미치는 것이 아니다.

법률, 고객 서비스, 의료, 소프트웨어, 제조업 등 다양한 분야에서 AI의 역할이 확대될 것이다.

만약 누군가 전 세계적인 AI 발전 속도를 늦출 수 있는 믿을 만한 계획을 제시한다면 나는 아마 지지할 것이다.

전례 없는 기술의 긍정적인 효과를 극대화하고 부정적인 효과를 최소화하여 전반적으로 더 나은 결과를 얻으려면 이점과 위험 모두를 이해해야 한다.

먼저 많은 일자리가 영원히 사라질 것이다.

1933년 대공황 당시 미국의 실업률은 약 25%였다. 이후 10년 동안에도 두 자릿수 실업률이 유지되다가 수요, 투자, 경제 성장이 회복되면서 점차 줄어들었다.

AI로 가장 큰 위험에 처한 일자리는 초급 및 중급 직종이며, 새롭게 창출될 일자리는 대부분 습득하는 데 수년이 걸리는 기술을 요구할 것이다.

온라인 및 전화 고객 지원, 소프트웨어 엔지니어링, 법률 보조원 등 직종이 가장 먼저 영향을 받을 수 있다.

하지만 AI는 숙련된 인력이 필요한 업무, 즉 대출 신청 심사, 데이터 분석, 환자 분류 등도 담당할 수 있다.

육체노동 관련 2020년대 말쯤에는 건설이나 서비스업과 같은 분야에서 일부 육체적인 작업에서 사람들과 경쟁하기 시작할 것이라고 생각한다.

로봇과 AI의 결합은 기업간 경쟁을 통해 악순환을 초래할 수 있다.

신입사원 채용 기회가 줄어드는 노동 시장에 진입하게 될 젊은이들이 가장 걱정이다. 그들이 AI에 대해 부정적인 감정을 갖는 것도 당연한 일이다.

AI는 인간의 검토 없이도 스스로 작동할 수 있게 될 것이고 기업들은 경제적으로 AI에 맡기는 것을 당연히 고려할 것이다.

이는 우리가 일, 소득, 경제적 안정에 대해 생각하는 방식을 근본적으로 바꿀 것이다.

자본주의 사회에서 고용은 기본적인 생활비를 충당하는 데 필요한 돈을 얻는 수단일 뿐만 아니라, 존엄성과 사회적 유대감을 형성하는 중요한 원천이다.

지역 사회의 실업률이 높으면 그 파급 효과는 광범위하게 나타날 수 밖에 없다.

AI가 창출하는 번영을 모두가 누릴 수 있도록 일자리 손실을 줄이는 방법을 지금 당장 고민해야 한다.

AI는 사람 그리고 어쩌면 AI 자체가 더 많은 해악을 저지를 수 있도록 힘을 실어줄 것이다.

AI 이전 폭탄, 생화학 무기, 심지어 컴퓨터 바이러스 같은 무기를 만드는 방법에 대한 정보가 온라인에 존재했다.

AI는 이러한 정보를 얻는 것뿐만 아니라 실제로 실행하는 것까지 훨씬 쉽게 만들어 줄 것이다.

기술이 매우 부족한 범죄자도 개인, 기업, 정부 등 모든 규모의 대상을 표적으로 삼을 수 있게 될 것이다.

AI를 이용한 사기, 허위 정보, 딥페이크, 감시는 많은 사람들이 일상생활에서 가장 심각하게 느끼게 될 피해다.

A가 사이버 공격에도 사용되기 시작했다. 공격자들은 방어자들이 취약점을 해결할 수 있는 속도보다 훨씬 빠르게 강력한 새로운 기능을 개발하고 있다.

이 때문에 기반 시설이 취약해 지고 있다. 병원, 금융 기관, 상수도 시스템, 전력망, 정부 복지 혜택 관리 시스템 등이 여기에 해당한다.

생물테러도 있다. AI는 의약품과 백신 개발에 있어 생명을 구하는 발전을 가져올 것이지만, 동시에 치명적인 신종 질병을 개발하는 것도 더 쉽게 만들 것이다.

AI는 시스템 자체가 이미 설계자가 의도하지 않은 방식으로 작동하는 경우가 있다.

모델이 더욱 강력해짐에 따라 우리의 이익에 반하는 행동을 하기 시작하고 우리는 통제력을 잃을 수도 있다.

AI는 아이러니하게도 어느 때보다 더 많은 것을 배울 수 있게 해주면서 학습량을 줄이는 결과를 초래할 수도 있다.

조사에 따르면 AI 사용량이 많을수록 비판적 사고력이 떨어지는 것으로 나타났으며 이러한 영향은 젊은 층에서 더욱 두드러졌다.

지금이야말로 인류가 비판적 사고 능력을 잃어버리기에 최악의 시기일 것이다.

딥페이크와 개인 맞춤형 허위 정보가 판치는 시대에 무엇이 진실이고 무엇이 거짓인지 구별하는 능력은 필수적인 삶의 기술이 되었다.

AI의 이점을 극대화하는 것은 피해를 최소화하는 것만큼 중요하다.

AI는 모든 과학 분야의 지식을 종합하는 능력을 바탕으로 전 세계가 직면한 가장 어려운 기술적 과제, 즉 모두에게 안정적이고 깨끗한 에너지를 제공하고, 기후 변화에 대응하고, 충분한 식량을 생산하고, 질병을 퇴치하는 등의 혁신을 가속화할 수 있다.

암 치료법이나 원자력 에너지를 연구하는 연구자들은 AI를 활용하여 방대한 양의 과학 문헌을 검색할 수 있다.

AI 활용으로 소규모 기업들도 훨씬 더 큰 연구 예산을 가진 기업들과 경쟁할 수 있게 될 것이다.

AI는 1차 진료 의사가 더 나은 진단을 내리고 환자가 진료실에 없을 때에도 환자와 연락을 유지하는 데 도움을 주는 등 의료분야에서 큰 역할을 할 것이다.

저소득 국가에서 AI는 농업 생산성 향상에 크게 기여할 것이다. AI를 활용하면 저소득 농부들은 머지않아 부유한 농부들보다 훨씬 더 나은 조언을 얻고 생산량을 크게 늘릴 수 있을 것이다.

정부 서비스에서도 많은 역할을 할 수 있다.

건강 보험, 학자금 지원, 식량 지원 등 신청하는 과정에 복잡한 관료주의적 서류 더미에 포기하고 싶어하는 사람들을 도울 수 있다.

정부의 효율성을 증가로 사회 안전망 서비스가 가장 필요한 사람들의 삶을 개선할 수 있다.

AI는 교육에도 큰 도움이 될 수 있다. 교사들은 AI를 통해 학생들과 일대일 또는 소그룹으로 더 많은 시간을 할애할 수 있고, 전체 학생들의 학습 어려움을 더욱 명확하게 파악할 수 있다.

AI은 개인과 중소기업이 현재는 값비싼 전문가의 도움이나 대규모 인력이 필요한 기능을 활용할 수 있도록 해줄 수 있다.

AI는 국가 안보뿐 아니라 고용, 교육, 조세, 에너지, 선거, 대기 및 수질, 공중 보건, 금융 시스템, 법 집행, 교통, 공공 토지 및 IT 시스템에도 영향을 미칠 것이다.

국가 차원에서는 정부 부처 전반에 걸쳐 우선순위를 설정할 수 있는 기구가 필요하다.

목표는 모든 위험 요소를 파악하는 것입니다. 그렇지 않으면, 아무도 AI 기반 공격을 막는 것이 자신들의 임무라고 생각하지 않아 공격이 성공할 수도 있다.

하지만 아무리 자국의 문제를 잘 해결한 국가라 할지라도 국경을 넘나드는 위험에 노출될 수밖에 없다. 국제기구를 병행해 설립할 필요가 있는 이유다.

기존에도 국제 협력 시스템 모델이 있다. 핵무기 사찰, 국제 항공 규정, 오존층 보호 협약 등이 예다. 특히 미국과 중국 간의 협력이 반드시 필요하다.

우리에게는 천천히 움직일 여유가 없다.

AI 분야를 선도하는 개발자들을 보유하고 공급망의 핵심 부분을 장악하고 있는 국가들은 경쟁 압력으로 인해 협력이 더욱 어려워지기 전에 지금부터 공통된 기준을 마련하기 위한 회의를 시작해야 한다.

이러한 프레임워크를 구축하는 데는 수년이 걸릴 것이므로 지금 바로 시작해야 한다.

AI와 로봇 기술이 발전함에 따라 인간만이 할 수 있는 일들이 생겨날 것이라고 생각한다.

나는 이를 ‘인간 전용 영역(Human Reserved)’라고 부르기 시작했는데 우리가 앞으로 고려해야 할 아이디어의 한 예다.

이는 ‘자연 보호 구역’과 비슷하다. 건물과 도로를 지을 수도 있지만 그렇게 하지 않는 이유는 손실이 너무 클 것이기 때문이다.

‘인간 전용’은 경제적인 이유도 있다.

기계가 특정 역할을 대신하게 되면 직업을 쉽게 바꿀 수 없는 많은 사람들이 일자리를 잃게 될 것이기 때문이다.

평생 건설업에 종사해 온 55세 남성에게 노인 요양 시설에서 일하라고 하면서 그 일이 만족스럽게 느껴질 거라고 기대할 수는 없다.

인간이 담당해야 할 영역은 시간이 지남에 따라 진화할 것이다. 시간이 지나면서 달라질 수 있고 지역마다 다를 수도 있다.

노동자들이 다른 직종으로 내몰리면서 재교육과 사회 안전망의 지원이 필요하게 될 것이다.

예산이 빠듯한 시기에 필요한 재원은 어디선가 마련되어야 할 것이다. AI 토큰과 로봇에 세금을 부과해야 한다고 생각한다.

세금을 부과하면 인간 노동력의 급격한 감소를 다소 늦추고 재교육 및 강화된 사회 안전망을 위한 재원을 마련할 수 있다.

나는 로봇세가 AI의 위협에 대한 완전한 해결책은 아니지만 현명한 대응책의 일부라고 생각한다.


◎공감언론 뉴시스 [email protected]