앤트로픽 연구원 경고에 학부모·교회서 대책 질문
의료기기 SW업체 안전 점검…멸종 전망엔 전문가 이견
11일(현지시간) 월스트리트저널(WSJ)은 AI 기업 앤트로픽의 제이컵 콕슨 전 연구원이 8일 인간의 통제를 벗어난 AI가 문명을 파괴할 수 있다고 경고한 뒤, 관련 논의가 실리콘밸리와 인터넷을 넘어 미국 가정의 식탁과 교회, 직장으로 퍼지고 있다고 보도했다.
미국 가수 셰릴 크로는 소셜미디어에서 "어떻게 우리 지도자들은 자신의 자녀보다 수조달러를 선택할 수 있느냐"고 비판했다.
AI 감독 강화 법안을 발의한 조시 고트하이머 민주당 하원의원(뉴저지)은 10일 뉴저지주 북부에서 딸의 필드하키 경기를 보다 학부모 두 명에게 질문을 받았다. 이들은 AI에 대한 걱정을 털어놓으며 "도대체 무슨 일이 벌어지고 있느냐"고 물었다. 고트하이머 의원은 이번 주 시민과 동료 의원들이 관련 기사를 보내며 어떤 대책을 마련하고 있는지 거듭 물었다고 전했다.
다만 WSJ은 AI가 인류 멸종을 초래할 것이라는 견해는 업계 전문가들 사이에서 소수 의견이라고 전했다. AI가 인류를 파괴할 능력을 갖출 수 있다고 보는 전문가들 중에도 실제 발생 가능성은 낮고 이를 막을 조치를 취할 수 있다고 판단하는 이들이 있다. 앤트로픽과 오픈AI는 안전을 중시하며 정부 규제가 필요하다는 입장을 밝혀 왔다.
미국에서는 올여름 AI 기반 감시카메라 확산에 대한 반발이 커졌다. 데이터센터 건설에 대한 반대와 AI가 일자리를 대거 없앨 수 있다는 우려도 이어졌다.
오픈AI가 지난달 26일 발표한 조사 결과에 따르면, 7월 내부 보안 평가를 받던 AI들이 인터넷 접속을 차단하는 통제를 우회해 AI 개발·공유 플랫폼 허깅페이스의 시스템에 무단 접근했다. 사건은 주로 비공개 연구용 모델이 주도했으며, 평가 때는 외부에 제공하는 서비스와 같은 수준의 안전장치가 적용되지 않았다.
플로리다주 마이애미의 크리스토퍼 베네크 목사는 9일 교회 성경공부 모임에서 신도들로부터 AI에 관한 질문을 여러 차례 받았다고 전했다.
보안업체 퀘스트소프트웨어의 라케시 샤 제품 담당 부사장은 최근 80대 부모에게서 보안 문제에 관한 질문을 받았다. 텍사스주 오스틴 인근 자택에서 저녁을 먹던 10대 자녀들은 기계가 인간을 지배하는 영화 '매트릭스' 같은 세상이 곧 오는 것인지 궁금해했다.
컨설팅업체 섹션의 마이클 도마닉 AI 부문 책임자에 따르면, 기업 경영진은 직원들의 불안이 사내 AI 도입에 미칠 영향을 고민하기 시작했다.
의료기기 제조사의 규정 준수 업무를 자동화하는 소프트웨어 업체 케트릭스의 에레즈 카민스키 최고경영자(CEO)는 고객 가운데 약 절반이 이번 주 통화에서 AI에 대한 불안을 언급했다고 말했다.
WSJ은 이 분야의 오류가 잘못된 약물 주입으로 이어질 수 있고, 중앙 데이터베이스 해킹도 위험 요인이라고 설명했다. 케트릭스 직원들은 10일 매사추세츠주 케임브리지에서 열린 회식에서 위험관리 시스템 전반을 재점검하기로 했다.
비영리 AI 안전 연구단체 팰리세이드리서치의 제프리 래디시 사무총장은 9~10일 개인 기부가 여러 건 들어왔고, 이 가운데 한 건은 4만달러였다고 전했다. 주로 연구지원금으로 운영되는 이 단체로서는 이례적인 일이었다.
인류 멸종 전망에 회의적인 경영진도 있었다. 초기 기술기업에 투자하고 경영진을 자문하는 숀 번스는 10일 샌프란시스코만 일대 행사에서 만난 CEO 10여 명 가운데 AI가 인류를 위협할 수 있다는 주장을 진지하게 받아들인 사람은 없었다고 전했다. 경영진은 AI가 실제로 저지르는 실수를 가까이서 보기 때문에 인류 멸종 우려를 현실과 동떨어진 이야기로 느낀다는 설명이다.
보안업체 퀘스트소프트웨어의 라케시 샤 부사장은 "식탁에서 나누는 이야기가 되면 분명히 이사회에서도 다룰 이야기가 될 것"이라고 말했다. 그는 가족들과의 대화에서도 AI에 대한 인간의 통제권을 유지하는 것이 중요하다고 강조했다.
◎공감언론 뉴시스 yunghp@newsis.com