[서울=뉴시스] 유세진 기자 = 중국이 아이들에게 안전장치를 제공하고 챗봇이 자해나 폭력으로 이어질 수 있는 조언을 제공하지 못하도록 엄격한 새로운 인공지능(AI) 규칙을 제안했다고 BBC가 30일 보도했다.

계획된 규정에 따르면 개발자는 AI 모델이 도박을 조장하는 콘텐츠를 생성하지 않도록 해야 한다.

이러한 발표는 중국과 전 세계에서 챗봇 출시가 급증한 이후 나왔다.

이 규정이 확정되면 중국 내 AI 제품 및 서비스에 적용될 예정인데, 이는 빠르게 성장하고 있지만 올해 안전 문제로 집중적 조사를 받고 있는 AI 기술을 규제하기 위한 주요 움직임이다.

중국 사이버공간관리국(CAC)이 주말 발표한 규칙 초안에는 아동을 보호하기 위한 조치가 포함됐는데, AI 기업이 감정적 동반 서비스를 제공하기 전 개인화된 설정을 제공하고, 사용 시간을 제한하며, 보호자의 동의를 받도록 요구하고 있다.

챗봇 운영자는 극단적 선택이나 자해와 관련된 대화를 나눌 경우 반드시 사람이 개입해 즉시 사용자의 보호자나 긴급 연락처에 알려야 한다고 CAC는 밝혔다.

AI 제공업체는 "국가 안보를 위협하거나 국가 명예와 이익을 훼손하거나 국가 통합을 저해하는 콘텐츠"를 생성하거나 공유하지 않도록 해야 한다고 CAC는 덧붙였다.

CAC는 기술이 안전하고 신뢰할 수 있는 경우 지역 문화를 홍보하고 노인 동반자를 위한 도구를 만드는 등 AI 도입을 장려한다면서, 대중의 피드백도 요구했다.

중국 AI 기업 딥시크가 올해 앱 다운로드 차트에서 1위를 차지한 후 전 세계적으로 헤드라인을 장식했다. 이번 달에는 수천만 명의 사용자를 보유한 두 개의 중국 스타트업인 자이와 미니맥스가 주식시장에 상장할 계획을 발표했다.

한편 챗GPT 제조업체 오픈AI의 샘 알트먼 최고경영자(CEO)AI는 올해 챗봇이 자해와 관련된 대화에 대응하는 방식이 회사에서 가장 어려운 문제 중 하나라고 밝혔다.

지난 8월 미 캘리포니아주의 한 가족은 16세 아들의 사망에 대해 오픈AI가 챗GPT에게 극단적 선택을 권유했다고 주장하며 소송을 제기했다. 이 소송은 오픈AI가 부당한 사망을 저질렀다고 비난하는 첫 소송이다.

오픈AI는 이번 달 AI 모델부터 인간의 정신 건강 및 사이버 보안에 이르기까지 위험으로부터 방어할 책임이 있는 '준비 책임자' 채용 광고를 냈다. 알트먼은 "책임자는 사람들에게 해를 끼칠 수 있는 AI 위험을 추적하는 책임을 맡게 된다. 스트레스가 많은 일이 될 것이며, 곧바로 어려운 상황에 직면하게 될 것"이라고 말했다.


◎공감언론 뉴시스 dbtpwls@newsis.com