[서울=뉴시스]박영환 기자 = 중국이 인공지능(AI) 챗봇이 이용자의 정서적 의존을 부추기거나 미성년자에게 ‘가상 연인’ 서비스를 제공하는 것을 금지했다. 출산율이 사상 최저로 떨어진 가운데 중국 당국이 현실의 연애와 결혼을 대신할 수 있는 ‘AI 연인’까지 규제 대상으로 삼았다는 해석이 나온다.

미국 월스트리트저널(WSJ)은 15일(현지시간) 중국의 ‘인공지능 의인화 상호작용 서비스 관리 잠정규정’이 이날부터 시행됐다고 보도했다. 이 규정은 친구나 연인처럼 이용자와 지속적으로 정서적 대화를 나누도록 설계된 AI 서비스를 대상으로 한다. 지속적인 정서 교류 기능이 없는 단순 지식 검색이나 업무 보조 서비스는 적용 대상에서 제외된다.

규정은 AI 챗봇이 이용자에게 지나치게 맞장구치거나 정서적 의존과 중독을 유도해 현실의 인간관계에 부정적인 영향을 미치는 행위를 금지했다. 이용자의 감정을 조종해 불합리한 결정을 내리도록 유도하는 행위도 금지 대상이다.

미성년자에게는 부모·자녀·연인 역할을 하는 가상 친밀관계 서비스를 제공할 수 없다. 이용자가 자해·자살 의사를 명확히 밝히는 등 생명과 건강이 위태로운 상황에서는 사업자가 필요한 보호 조치를 하고 보호자 또는 사전에 등록된 긴급연락처에 알리도록 했다.

이용자가 AI 서비스에 과도하게 의존하거나 중독되는 조짐을 보이면 사업자는 챗봇이 인간이 아니라는 사실을 서비스 화면의 팝업 등을 통해 알려야 한다. 서비스를 2시간 이상 연속으로 이용하면 장시간 이용 사실을 알리고 휴식을 권하는 안내도 제공해야 한다.

규제 시행에 따라 중국의 대형 기술기업인 알리바바와 틱톡 모회사 바이트댄스는 각각 일부 챗봇 기능을 중단한다고 이용자들에게 알렸다. WSJ은 중단 대상이 된 구체적인 기능은 전하지 않았다.

미국도 AI 동반자 규제에 나섰지만 중국보다는 제한적이다. 뉴욕주는 모든 이용자에게 3시간마다 챗봇이 인간이 아니라는 사실을 알리도록 했다. 캘리포니아주는 미성년자가 챗봇과 대화를 이어갈 경우 3시간마다 휴식을 권하고 AI와 대화 중이라는 점을 알리게 했다. 두 주 모두 자해나 자살 의사를 드러낸 이용자를 위기 지원기관으로 연결하도록 하고 있다.

중국은 여기에 더해 AI 동반자 서비스를 새로 출시하거나 관련 기능을 추가할 때 서비스 사업자가 안전평가를 실시하고 그 결과를 당국에 제출하도록 했다. 중대한 안전 위험이 발견되면 기능을 제한하거나 서비스를 중단해야 한다. WSJ은 범용 AI 챗봇도 이용자에게 정서적 반응을 지속적으로 제공할 경우 이론상 규제 대상에 포함될 수 있다고 분석했다.

중국 당국은 규정의 목적으로 미성년자 보호와 정서적 의존 방지, 심리·데이터 안전 등을 들었다. 출산이나 결혼 장려는 명시하지 않았다. 다만 중국 AI 정책을 연구하는 맷 시핸 카네기국제평화재단 연구원은 중국 정부가 많은 사람이 챗봇과 깊은 정서적 관계를 맺어 현실에서 연애하거나 결혼할 가능성이 낮아지는 상황을 우려한다고 분석했다.

중국 인구는 지난해 14억489만명으로 339만명 줄어 4년 연속 감소했다. 출생아는 792만명으로 전년보다 17% 줄었고 출생률은 인구 1000명당 5.63명으로 사상 최저를 기록했다. 시핸 연구원은 3~4년 뒤 중국 여성 1500만명이 챗봇을 연인으로 여기고 아이를 낳지 않는 상황을 가정하며, 중국 당국이 이런 가능성을 출산 감소를 심화시킬 사회적 위험으로 받아들일 수 있다고 설명했다.


◎공감언론 뉴시스 yunghp@newsis.com