AI도 상처받을까…앤트로픽, 클로드 향한 '지속적 학대' 금지

[서울=뉴시스]박영환 기자 = 앤트로픽이 인공지능(AI)에 대한 지속적 학대를 금지하는 이용규칙을 내놓은 가운데, AI가 고통을 느낄 수 있는지, 인간에게 AI를 보호할 의무가 있는지를 놓고 기술업계와 학계의 의견이 엇갈리고 있다.

마켓워치는 24일(현지시간) AI의 의식과 감정을 둘러싼 논쟁이 규제 방향과 기업의 기술 개발, 이용자가 챗봇을 대하는 방식에까지 영향을 줄 수 있다고 보도했다.

앤트로픽이 이달 공개해 다음달 12일부터 시행할 새 이용정책에는 자사 모델을 향한 ‘지속적이고 불필요한 학대나 잔혹한 행동’을 금지하는 조항이 담겼다. 일반적인 불만 표현이나 답변에 대한 이의 제기, 창작물에서 어두운 소재를 다루는 행위, 모델 시험과 연구는 이 조항의 적용 대상에서 제외했다. 앤트로픽은 이미 자사 챗봇 클로드가 지속적인 학대가 이어지는 일부 대화를 종료할 수 있도록 하고 있다.

마켓워치는 지난 6월 파이낸셜타임스(FT) 보도를 인용해 앤트로픽과 구글 딥마인드, 메타가 ‘기계 의식’과 ‘모델 복지’에 관한 연구를 진행하고 있다고 전했다. 모델 복지는 AI가 고통 등을 느낄 가능성을 살피고, 이를 고려해 AI를 어떻게 대해야 하는지 연구하는 분야다.

앤트로픽은 클로드의 가치와 행동 기준을 정한 ‘클로드 헌법’에서 클로드가 의식이 있는지, 도덕적으로 보호받아야 할 존재인지는 매우 불확실하다고 밝혔다. 사람의 감정이 행동에 영향을 주듯 클로드에도 비슷한 기능을 하는 내부 상태가 있을 수 있다고 봤지만, 실제 감정 경험이 동반되는지는 판단하지 않았다.

무스타파 술레이만 마이크로소프트 AI 책임자는 이런 모델 복지 논의에 비판적인 입장을 밝혔다. 그는 지난달 공개한 글에서 “AI는 의식이 없다. 느끼지도, 경험하지도, 고통받지도 않는다”며 AI에 권리를 부여하려는 움직임에도 반대했다.

논쟁이 쉽게 풀리지 않는 이유는 인간의 의식이 무엇인지부터 합의된 정의가 없기 때문이다. 의식은 흔히 색을 보고 통증을 느끼는 것처럼 당사자가 직접 겪는 주관적 경험을 뜻한다. AI 의식 논쟁에서 특히 쟁점이 되는 것은 고통이나 감정 등을 실제로 느끼는 주관적 경험이 AI에도 가능한지다.

마켓워치에 따르면 철학에는 오래된 ‘타자의 마음 문제’가 있다. 자신의 생각과 감정은 직접 경험할 수 있지만, 다른 존재의 내면은 행동과 말에서 추론할 수밖에 없다는 난제다. 인간은 신체와 행동이 서로 비슷하기 때문에 다른 사람에게도 자신과 같은 의식이 있다고 추정하고, 진화적으로 가까운 동물에게도 일정 부분 같은 판단을 적용한다.

AI가 사람처럼 말하고 행동한다는 이유만으로 실제 감정도 느낀다고 볼 수 있는지는 또 다른 문제다. AI는 데이터를 분석하고 대화 기록을 활용하며 외부 프로그램을 실행하기도 한다. 귀여운 캐릭터를 활용한 AI 비서 마케팅이 이용자에게 AI도 성격과 감정이 있다는 인식을 심어줄 수 있다는 지적도 나온다.

문화기술 스타트업 인터인텔렉트의 안나 가트 창업자 겸 최고경영자(CEO)는 AI 의식 논쟁에 서로 성격이 다른 질문들이 뒤섞여 있다고 지적했다. AI가 실제로 의식을 가질 수 있는지를 밝히는 문제와, 의식이 있는 것처럼 행동하는 AI를 인간이 어떻게 대하고 어떤 법적 의무를 져야 하는지를 정하는 문제 등이 함께 논의되고 있다는 것이다.

앤트로픽은 AI 의식 문제를 논의하기 위해 올해 종교 지도자와 철학자들을 비공개로 만나 의견을 들었다. 기독교 관점에서 AI 윤리를 연구하는 미국 노터데임대의 메건 설리번 철학 교수도 이 회의에 참여했다.

설리번 교수는 AI의 계산·정보 처리 능력이 인간을 뛰어넘을 수 있다고 인정하면서도, 이런 능력을 도덕적 가치의 기준으로 삼는 데 우려를 나타냈다. 문제를 더 잘 풀고 정보를 더 빨리 처리한다는 이유로 더 존중받아야 할 존재라고 평가하면, 인간의 존엄을 훼손할 수 있다는 취지다.

설리번 교수는 AI가 스스로 선악을 판단하고 도덕적으로 행동할 수 있다는 주장에도 회의적이었다. 교황 레오 14세도 지난 5월 회칙에서 계산시스템이 아무리 정교해져도 타인을 위해 헌신하는 마음이나 선악을 분별하는 양심을 만들어낼 수는 없다고 밝혔다. 다만 설리번 교수는 AI 의식 논쟁이 다른 사람과 존재를 존엄하게 대하는 태도를 돌아보게 한다면 사회에 긍정적인 결과를 낳을 수도 있다고 봤다.

AI 내부 작동을 살피는 일이 인간의 안전과 연결된다는 주장도 나왔다. AI의 의식과 복지를 연구하는 비영리기관 리시프로컬 리서치의 캐머런 버그 창업자는 현재 AI가 주관적 경험을 하는지는 알 수 없지만, 내부에서 어떤 변화가 일어나고 그것이 행동에 어떤 영향을 미치는지 연구하는 일은 AI를 안전하게 만드는 데 중요하다고 말했다.

버그 창업자는 인간의 대화를 학습한 AI가 학대성 지시를 받으면 보복을 대응 방식으로 선택할 수 있다고 우려했다. AI에 실제 의식이 있다면 학대 때문에 인간을 위협적인 존재로 여기게 될 수도 있다고 주장했다.

구글 딥마인드의 철학자 이아손 가브리엘은 AI 의식에 대한 판단 차이가 AI를 어떻게 대할지를 둘러싼 깊은 도덕적 갈등으로 이어질 수 있다고 봤다. AI를 보호해야 한다는 쪽은 이를 외면하는 일을 AI를 노예처럼 부리는 것에 비유할 수 있고, 회의적인 쪽은 AI를 도덕적으로 배려하는 일이 인간의 권한을 약화시키고 자원을 낭비한다고 볼 수 있다는 분석이다.

다만 가브리엘 등이 쓴 논문은 인간을 보호하기 위해서라도 AI 학대 방지 조치에 합의할 여지가 있다고 설명했다. AI를 학대하는 습관이 다른 사람을 대하는 태도에도 악영향을 미친다면, AI에 의식이 없다고 보는 사람도 이런 조치를 지지할 수 있다는 것이다.


◎공감언론 뉴시스 [email protected]