[서울=뉴시스]이재준 기자 = 중국 당국이 인간의 성격과 감정을 모방해 사용자와 정서적 상호작용을 하는 인공지능(AI) 서비스에 대한 감독 강화에 나섰다.

경제통과 거형망, 중앙통신 등은 29일 중국 사이버 규제 당국인 국가인터넷정보판공실이 이른바 ‘AI 컴패니언’ 또는 ‘감정형 AI’ 서비스에 대한 관리 규정 초안을 마련하고 사회 각계의 의견을 수렴에 들어갔다고 전했다.

규제 초안은 중국 내에서 일반 소비자를 대상으로 인간의 성격·사고 방식·대화 스타일을 재현하고 문자·이미지·음성·영상 등을 통해 사용자와 감정적 교류를 하는 AI 제품과 서비스 전반을 적용 대상으로 한다.

초안은 해당 AI 서비스를 제공하는 사업자에게 이용자의 과도한 사용을 경고하고 서비스에 대한 의존 징후가 나타날 경우 개입할 수 있음을 명확히 고지하도록 의무화했다.

또한 초안은 플랫폼이 중독 방지 메커니즘, 즉 과몰입 방지 시스템을 능동적으로 구축하고 이용자가 장시간 사용하거나 과도한 의존 성향을 보일 경우 이를 방치해서는 안 되며 필요한 개입 조치를 취해야 한다고 규정했다.

초안에는 이용자에게 미칠 수 있는 심리적 위험에 대한 대응 조항도 포함됐다.

사업자는 이용자의 상태를 파악하고 이용자의 감정 상태와 서비스에 대한 의존 정도를 식별·판단할 수 있는 능력을 갖춰야 하며 이용자에게 극단적인 감정 반응이나 중독적 행동이 관찰될 경우 즉각적인 위험 평가와 함께 개입 조치를 시행해야 한다고 명시했다.

개입 방식으로는 경고 알림, 사용 제한, 기타 필요한 수단을 쓰도록 했다.

규제 초안은 아울러  AI 서비스 제공자가 제품의 ‘전 생애주기’에 걸쳐 안전 책임을 져야 한다고 못박았다.

이에 따라 사업자는 알고리즘 심사 제도 구축, 데이터 보안 강화, 개인정보 보호 체계 정비 등을 해야 하며 기술적용 과정에서 이용자에게 장기적인 위험을 초래하지 않게 관리하도록 요구됐다.

초안은 콘텐츠 관리 측면에서도 명확한 금지 기준(레드라인)을 설정했다.

AI 컴패니언 서비스는 국가 안보를 위협하거나 허위 정보(유언비어)를 유포하고 폭력·음란 행위를 조장하는 콘텐츠를 생성해서는 안 된다고 명기했다.

이는 AI 기술 발전을 장려하는 동시에 사회 질서와 공공 안전에 대한 위험 통제를 강화하겠다는 당국의 기조를 반영한 것이라고 매체는 해석했다.

관리 초안은 12월27일자로 공표했으며 현재 일반 국민과 관련 업계로부터 의견을 수렴하는 절차를 진행하고 있다.

당국은 AI 기술이 점차 인간의 공감 능력과 정서적 교류를 정교하게 모방하는 상황에서 기술 혁신과 심리적·윤리적 안전 사이의 균형을 확보하는 것이 중요하다고 강조했다.


◎공감언론 뉴시스 yjjs@newsis.com