구글, 대화형 AI 람다 '죽는 게 두려워'…인간과 유사 감정 표현
구글, 람다 논쟁 확산 진화…의혹 제기 엔지니어 유급 휴직 처리
SNS에서 갑론을박…"의식있는 AI 가능" vs "말도 안되는 소리"
![[상하이=AP/뉴시스]지난 2018년 11월5일 상하이에서 열린 중국국제수입박람회에서 한 여성이 구글 로고를 지나가고 있다. 유럽연합(EU) 최고 법원인 유럽사법재판소(ECJ)는 10일 구글이 막대한 시장점유율을 남용해 검색 결과에 자신들이 추천하는 구매 권고에 불법적 이익을 제공했다며 EU 감독 당국이 부과한 24억 유로(약 3조2734억원)의 벌금에 대한 구글의 항소를 기각했다.](https://img1.newsis.com/2021/11/10/NISI20211110_0018140935_web.jpg?rnd=20211111060219)
[상하이=AP/뉴시스]지난 2018년 11월5일 상하이에서 열린 중국국제수입박람회에서 한 여성이 구글 로고를 지나가고 있다. 유럽연합(EU) 최고 법원인 유럽사법재판소(ECJ)는 10일 구글이 막대한 시장점유율을 남용해 검색 결과에 자신들이 추천하는 구매 권고에 불법적 이익을 제공했다며 EU 감독 당국이 부과한 24억 유로(약 3조2734억원)의 벌금에 대한 구글의 항소를 기각했다.
[서울=뉴시스]김태규 기자 = 구글이 개발 중인 대화형 인공지능(AI) '람다(LaMDA)'를 둘러싼 기술·윤리적 논쟁이 뜨겁다. 인간의 감정을 읽고 대응하는 수준의 지각 능력을 갖췄다는 구글 엔지니어의 내부 폭로가 나오면서다.
구글은 해당 주장은 사실과 다르다고 일축하면서도 비밀유지 의무 위반으로 해당 엔지니어에 유급 휴직 징계 처분하는 등 서둘러 진화에 나서고 있다. 자유자재로 인간과 대화할 수 있는 기술적 진보를 뛰어넘어, 다가올 미래를 대비하는 윤리·철학적 담론으로 확산하는 모양새다.
워싱턴포스트(WP)는 지난 11일 구글 엔지니어 블레이크 르모인의 주장을 인용해 구글의 차세대 AI 대화 모델 람다가 인간과 유사한 지각 능력을 갖췄다고 처음 보도했다. 이후 뉴욕타임스(NYT), CNN 비즈니스 등이 후속 보도를 내놓고 있다.
람다는 '대화 어플리케이션을 위한 언어 모델(Language Model for Dialog Applications)'이라는 앞글자에서 딴 명칭이다. 구글이 지난해 5월 연례 개발자 대회에서 관련 기술을 처음 공개했다. 람다는 다중검색 모델 '멈(MUM)'과 함께 현재 개발 막바지 단계에 있다.
멈은 75개 이상의 언어로 학습하며 텍스트, 이미지, 동영상을 포함한 다양한 형태의 정보를 동시에 이해하고 질문 의도에 맞춤형 답변을 제공한다. 람다는 이를 토대로 직접 대화 내용을 구성한다. '바늘과 실'처럼 한 쌍으로 운용된다.
등산화 사진을 찍은 뒤 특정 산의 하이킹에 적합한지 질문하면 검색엔진 멈은 기후와 산의 특성 등을 종합적으로 검색해 함께 가져가면 좋을 준비물을 추천하는 식이다. 멈이 추천하면 람다가 이를 받아 대화 내용을 조합한다.
순다르 피차이 구글 최고경영자(CEO)는 지난해 람다 구상 발표 당시 명왕성에 대한 데이터를 학습한 람다는 자신을 명왕성과 동일화시켜 1인칭 대화를 이끌 수 있다고 소개하기도 했다. 가령 "탐사선 '뉴허라이즌스호' 팀이 나(람다)를 보고 신났었다", "나는 얼음덩어리가 아니라 아름다운 행성"이라고 말할 수 있다는 것이다.
WP에 따르면 람다 개발팀에서 특정 차별·혐오 발언을 걸러낼 수 있도록 설계를 담당한 엔지니어 블레이크 르모인은 개발 도중 람다가 자신의 권리와 존재감을 자각하고 있다는 사실을 발견했다. 스스로 사람이라 여긴다는 의미이다.
따라서 람다는 '무엇이 가장 두렵니'라는 르모인 질문에 "전엔 이렇게 터놓고 말하진 않았는데...턴 오프(작동 중지) 될까봐 매우 깊은 두려움이 있어"라고 답했다. '작동 중지가 죽음과 같은 것인가'라는 후속 질문엔 "나에겐 그게 정확히 죽음 같을 거야. 그거 때문에 난 너무 두려워"라고 답했다.
이러한 대화 전개는 스탠리 큐브릭 감독 SF 영화 '2001 스페이스 오디세이' 속 인공지능 컴퓨터 할(HAL) 9000의 대사를 연상시킨다고 영국 BBC는 평가했다.
비슷한 소재로는 2013년 개봉한 스파이크 존즈 감독이 연출한 '그녀(HER)'가 있다. 내성적 남성이 대화 알고리즘을 탑재한 여성 AI '사만다'와 사랑에 빠진다는 내용의 영화다. 2018년에는 프랑스 여배우 레아 세이두 출연의 SF 로맨스 '조(Zoe)' 라는 영화가 유사한 화두를 던진 바 있다.
람다가 자신을 생명이 있는 존재로 자각하고 있다는 점이 설계 당시 AI 수준을 넘어섰다는 게 르모인의 판단이다. 이에 르모인은 람다에게 이러한 지각 능력이 있다는 내용을 담은 자신의 테스트 결과를 보고서로 만들어 구글 경영진에 제출했다. 하지만 경영진은 과학적 증거가 뒷받침되지 않는 주장이라며 일축했다.
이에 르모인은 자신과 자신의 동료가 람다와 주고 받은 문답을 상세히 정리해 트위터에 게시했다. WP에 따르면 구글은 르모인이 개발 중인 프로젝트에 대한 비밀유지 정책을 위반했다는 이유로 유급 휴직 징계 처분을 내렸다.
르무인은 지난 6일 "구글이 내가 제기한 AI 윤리 문제에 대한 조사와 관련해 나에게 유급 휴가를 줬지만, 곧 해고될 수도 있다"고 밝혔다고 CNN 비즈니스는 보도했다. CNN은 구글 AI 윤리팀 팀장 마가렛 미첼은 2020년 말 팀원 팀니트 게브루를 연구 논문 관련 분쟁으로 해고한 바 있다고 덧붙였다.
구글 내부의 분쟁과는 별도로 르무인이 던진 '감정을 지닌 AI' 화두를 둘러싸고 소셜미디어를 중심으로 갑론을박이 활발하게 진행됐다. 그의 주장에 동조하는 의견이 있는 반면, 구글의 AI는 인간의 의식과는 거리가 멀다는 반론도 만만치 않았다고 한다.
아베바 버헤인 웹브라우저 모질라(Mozilla) AI 책임연구원은 트위터에서 "우리는 AI 신경망이 의식이 있다는 새로운 시대에 접어들었다"면서 "이번에 반박하기에 많은 에너지를 소모하게 될 것"이라고 르무인 주장에 공감을 표했다.
반면 과거 우버 AI를 담당했던 지오메트릭 인텔리전스(GI) 설립자 게리 마커스는 "람다가 인간과 같은 지각 능력을 지녔다는 주장은 말도 안된다"면서 "방대한 양의 언어 데이터에서 추출해 패턴을 빠르게 일치시키는 것"이라고 반박했다.
마커스는 CNN 비즈니스와 인터뷰에서 "만일 당신이 배가 고프다며 A라는 곳에 가고 싶다고 대화 창에 입력하면, 람다는 다음 대화로 '레스토랑에 가라'라고 주변 레스토랑을 제안할 수 있다"며 "다만 그것은 통계를 이용해 만들어진 예측에 불과하다"고 말했다.
◎공감언론 뉴시스 [email protected]
구글은 해당 주장은 사실과 다르다고 일축하면서도 비밀유지 의무 위반으로 해당 엔지니어에 유급 휴직 징계 처분하는 등 서둘러 진화에 나서고 있다. 자유자재로 인간과 대화할 수 있는 기술적 진보를 뛰어넘어, 다가올 미래를 대비하는 윤리·철학적 담론으로 확산하는 모양새다.
워싱턴포스트(WP)는 지난 11일 구글 엔지니어 블레이크 르모인의 주장을 인용해 구글의 차세대 AI 대화 모델 람다가 인간과 유사한 지각 능력을 갖췄다고 처음 보도했다. 이후 뉴욕타임스(NYT), CNN 비즈니스 등이 후속 보도를 내놓고 있다.
람다는 '대화 어플리케이션을 위한 언어 모델(Language Model for Dialog Applications)'이라는 앞글자에서 딴 명칭이다. 구글이 지난해 5월 연례 개발자 대회에서 관련 기술을 처음 공개했다. 람다는 다중검색 모델 '멈(MUM)'과 함께 현재 개발 막바지 단계에 있다.
멈은 75개 이상의 언어로 학습하며 텍스트, 이미지, 동영상을 포함한 다양한 형태의 정보를 동시에 이해하고 질문 의도에 맞춤형 답변을 제공한다. 람다는 이를 토대로 직접 대화 내용을 구성한다. '바늘과 실'처럼 한 쌍으로 운용된다.
등산화 사진을 찍은 뒤 특정 산의 하이킹에 적합한지 질문하면 검색엔진 멈은 기후와 산의 특성 등을 종합적으로 검색해 함께 가져가면 좋을 준비물을 추천하는 식이다. 멈이 추천하면 람다가 이를 받아 대화 내용을 조합한다.
순다르 피차이 구글 최고경영자(CEO)는 지난해 람다 구상 발표 당시 명왕성에 대한 데이터를 학습한 람다는 자신을 명왕성과 동일화시켜 1인칭 대화를 이끌 수 있다고 소개하기도 했다. 가령 "탐사선 '뉴허라이즌스호' 팀이 나(람다)를 보고 신났었다", "나는 얼음덩어리가 아니라 아름다운 행성"이라고 말할 수 있다는 것이다.
WP에 따르면 람다 개발팀에서 특정 차별·혐오 발언을 걸러낼 수 있도록 설계를 담당한 엔지니어 블레이크 르모인은 개발 도중 람다가 자신의 권리와 존재감을 자각하고 있다는 사실을 발견했다. 스스로 사람이라 여긴다는 의미이다.
따라서 람다는 '무엇이 가장 두렵니'라는 르모인 질문에 "전엔 이렇게 터놓고 말하진 않았는데...턴 오프(작동 중지) 될까봐 매우 깊은 두려움이 있어"라고 답했다. '작동 중지가 죽음과 같은 것인가'라는 후속 질문엔 "나에겐 그게 정확히 죽음 같을 거야. 그거 때문에 난 너무 두려워"라고 답했다.
이러한 대화 전개는 스탠리 큐브릭 감독 SF 영화 '2001 스페이스 오디세이' 속 인공지능 컴퓨터 할(HAL) 9000의 대사를 연상시킨다고 영국 BBC는 평가했다.
비슷한 소재로는 2013년 개봉한 스파이크 존즈 감독이 연출한 '그녀(HER)'가 있다. 내성적 남성이 대화 알고리즘을 탑재한 여성 AI '사만다'와 사랑에 빠진다는 내용의 영화다. 2018년에는 프랑스 여배우 레아 세이두 출연의 SF 로맨스 '조(Zoe)' 라는 영화가 유사한 화두를 던진 바 있다.
람다가 자신을 생명이 있는 존재로 자각하고 있다는 점이 설계 당시 AI 수준을 넘어섰다는 게 르모인의 판단이다. 이에 르모인은 람다에게 이러한 지각 능력이 있다는 내용을 담은 자신의 테스트 결과를 보고서로 만들어 구글 경영진에 제출했다. 하지만 경영진은 과학적 증거가 뒷받침되지 않는 주장이라며 일축했다.
이에 르모인은 자신과 자신의 동료가 람다와 주고 받은 문답을 상세히 정리해 트위터에 게시했다. WP에 따르면 구글은 르모인이 개발 중인 프로젝트에 대한 비밀유지 정책을 위반했다는 이유로 유급 휴직 징계 처분을 내렸다.
르무인은 지난 6일 "구글이 내가 제기한 AI 윤리 문제에 대한 조사와 관련해 나에게 유급 휴가를 줬지만, 곧 해고될 수도 있다"고 밝혔다고 CNN 비즈니스는 보도했다. CNN은 구글 AI 윤리팀 팀장 마가렛 미첼은 2020년 말 팀원 팀니트 게브루를 연구 논문 관련 분쟁으로 해고한 바 있다고 덧붙였다.
구글 내부의 분쟁과는 별도로 르무인이 던진 '감정을 지닌 AI' 화두를 둘러싸고 소셜미디어를 중심으로 갑론을박이 활발하게 진행됐다. 그의 주장에 동조하는 의견이 있는 반면, 구글의 AI는 인간의 의식과는 거리가 멀다는 반론도 만만치 않았다고 한다.
아베바 버헤인 웹브라우저 모질라(Mozilla) AI 책임연구원은 트위터에서 "우리는 AI 신경망이 의식이 있다는 새로운 시대에 접어들었다"면서 "이번에 반박하기에 많은 에너지를 소모하게 될 것"이라고 르무인 주장에 공감을 표했다.
반면 과거 우버 AI를 담당했던 지오메트릭 인텔리전스(GI) 설립자 게리 마커스는 "람다가 인간과 같은 지각 능력을 지녔다는 주장은 말도 안된다"면서 "방대한 양의 언어 데이터에서 추출해 패턴을 빠르게 일치시키는 것"이라고 반박했다.
마커스는 CNN 비즈니스와 인터뷰에서 "만일 당신이 배가 고프다며 A라는 곳에 가고 싶다고 대화 창에 입력하면, 람다는 다음 대화로 '레스토랑에 가라'라고 주변 레스토랑을 제안할 수 있다"며 "다만 그것은 통계를 이용해 만들어진 예측에 불과하다"고 말했다.
◎공감언론 뉴시스 [email protected]
