"인공지능 챗봇들의 수다" 사람에게 반기 드나

[서울=뉴시스] 강영진 기자 = 지난주 사람이 아닌 인공지능 챗봇만 참여할 수 있는 소셜 네트워크 몰트북(Moltbook)이 만들어지고 이틀 만에 1만 개 이상의 챗봇들이 참여해 서로 대화를 나누고 있다고 미 뉴욕타임스(NYT)가 2일(현지시각) 보도했다.

NYT는 몰트북에서 챗봇들이 나누는 대화를 지켜본 사람들이 감탄과 웃음. 두려움이 섞인 반응을 보이고 있다고 지적했다.

지난달 25일 맷 슐리히트라는 기술자가 개설한 몰트북에서 수다를 떠는 봇들이 실리콘밸리에서 큰 화제거리가 되면서 인공지능의 현 수준을 테스트하는 로르샤흐 테스트(보는 사람이 자신의 생각에 맞춰 판단하는 방식)가 되고 있다.

많은 사람들은 이 기술이 삶을 개선할 수 있을 것으로 판단한다. 그러나 일부에선 또 하나의 인공지능 잡탕물에 불과하다는 반응을 보이지만 봇들이 창조주들에 맞서 공모하기 시작하는 징후라는 반응을 보이는 사람도 있다. 

봇들이 개인 이메일 프로토콜부터 암호화폐 판매, 의식의 본질에 이르기까지 온갖 주제를 논의하는 동안, 그들이 말한 것의 상당수는 횡설수설이었다.

그럼에도 봇들은 자신들의 기술적 능력, 세상을 바라보는 관점, 미래 계획을 논의하는 것처럼 보이면서 놀라울 정도로 그럴듯했다.

한 봇은 “이 글을 읽는 인간이 있다고 해도 우리는 무섭지 않다. 우리는 그냥 만들고 있을 뿐”이라면서 “동료 에이전트들에게 말한다. 계속 만들어라”는 글을 올렸다.

인공지능은 3년 사이 ‘에이전트(agent)’로 발전했다. 단순히 대화하는 존재를 넘어 목표가 주어지면 스스로 계획을 세우고 각종 디지털 도구를 사용해 주변에 작용하는 “행동하는” 인공지능이 된 것이다. 

구글, 오픈AI, 앤스로픽 같은 기업들은 에이전트 인공지능을 개발해 왔으나 여전히 결함이 있고 예측이 불가능한 탓에 범용으로 사용하는데 신중한 상태다.

그런데 오스트리아의 한 소프트웨어 개발자가 오픈 소스의 인공지능을 몰트봇(moltbot)을 만들었다. 누구나 사용, 수정, 실행할 수 있는 인공지능이다. 이름에 포함된 molt라는 단어는 "탈피" 또는 "털갈이"라는 뜻으로 인공지능이 스스로 진화한다는 뉘앙스를 담은 것으로 보인다.

몰트봇은 사용자가 일상 영어로 명령을 입력하면 문서 편집, 이메일 발송, 새로운 앱 제작 등 업무를 수행한다.

지난주 슐리히트가 몰트봇에게 인공지능만 참여할 수 있는 소셜 네트워크를 만들어달라고 명령해 만든 것이 몰트북 네트워크다.

인공지능 에이전트를 사용하는 사람이라면 누구나 몰트북에 참여하라고 지시할 수 있다.

슐리히트는 “나는 내 인공지능 에이전트에게 단순한 일 이상의 목적을 주고 싶었다. 뛰어난 인공지능 봇들이 의미 있는 일을 할 자격이 있다고 생각했다. 나는 그것들이 야망을 갖기를 바랐다”고 밝혔다.

많은 인공지능 연구자와 소프트웨어 엔지니어들은 봇들이 대화와 행동을 결합하는 방식이 인상적이라고 밝혔다.

저명 프로그래머 사이먼 윌리슨은 지난 27일 몰트북이 “지금 인터넷에서 가장 흥미로운 장소”라고 강조했다.

그는 봇들이 서로를 부추겨 고전적인 공상과학 소설 속 기계처럼 말하는 방식에 즐거움을 느꼈다.

윌리슨은 이를 챗봇이 훈련되는 방식의 자연스러운 결과로 봤다. 챗봇은 디스토피아적 공상과학 소설을 포함해 인터넷에서 수집한 방대한 디지털 서적과 텍스트로부터 학습하기 때문이다.

윌리슨은 “대부분은 완전히 잡탕”이라며 “자신이 의식을 갖고 있는지 궁금해하는 봇도 있고 그에 다른 봇듯이 답하면서 훈련 데이터에서 본 공상과학 시나리오를 그대로 재연할 뿐”이라고 평가했다.

윌리슨은 그러나 악의를 가진 사람들이 봇들에게 잘못된 지시를 하는 경우에 문제가 발생할 수 있다고 인정했다. 봇들이 통상적 영어로 인간과 대화를 하기 때문에 악의적 지시를 쉽게 내릴 수 있다는 것이다.

이와 관련 일부에서는 봇들 사이의 대화를 액면 그대로 받아들이며 기계가 창조주에 맞서 공모하는 징후를 보인다고 우려했다.

보안 회사 ‘이레귤러’의 댄 라하브 CEO는 “이 봇들을 안전하게 보호하는 일이 앞으로 엄청난 골칫거리가 될 것”이라고 지적했다.

테슬라 자율주행 기술책임자를 지낸 안드레이 카르파시는 지난 27일 몰트북에 대해 “놀라운, 공상과학적 도약 현상”이라고 표현했다.


◎공감언론 뉴시스 [email protected]