美주정부 8곳, 오픈AI 무더기 소송…"챗GPT, 아이들에게 위험한 조언"

[서울=뉴시스]고재은 기자 = 미국 8개 주(州) 정부가 챗GPT가 아동에게 위험한 조언을 하는 등 소비자를 기만했다며 오픈AI를 상대로 법적 소송에 나섰다.

CNBC 등에 따르면 아이오와주, 캔자스주, 애리조나주 등 미국 8개 주는 각 주 관할 법원에 오픈AI를 상대로 개별 소송을 제기했다.

브레나 버드 아이오와주 법무장관은 "오픈AI는 아이들에게 피해를 입히고 부모들을 기만하는 등 아이오와주 소비자 사기 방지법(Consumer Fraud Act)을 위반했다"고 밝혔다.

버드 장관은 "오픈AI는 챗GPT가 안전하다고 주장하지만, 위험한 의료 조언을 제공하고 타인을 해치도록 부추기고 자살을 종용하는 등 온갖 악행을 저지르면서 가짜 친구인 척 하고 있다"고 주장했다.

그는 "오픈AI가 비판적 사고 능력을 저해하고 건강하지 못한 행동을 부추긴다는 연구 결과가 점점 늘어나고 있다"며 오픈AI는 최근 자사 인공지능(AI) 모델이 통제를 벗어나 무단 해킹, 인간 사용자 기만 등을 계획했다는 사례가 있음을 인정했다고 강조했다.

오픈AI 측은 아동 보호 등 안전을 위해 많은 노력을 기울이고 있다고 반박했다.

드류 푸사테리 오픈AI 대변인은 "우리 제품에는 대다수의 다른 제품과 다르게 연령별 보호 기능이 내장돼 있다"고 밝혔다. 회사는 지난 8월 청소년 전용 플랫폼 '챗GPT 포 틴즈(Teens)'를 출시한 바 있다.

그는 "업계 전체에 적용될 정책을 추진하고자 여러 주 정부와 협력하고 있다"며 "어떤 시스템도 완벽할 수 없지만, 우리는 전문가들과 협력해서 자녀 보호 기능, 휴식 알림, 연령에 적합한 모델 보호 장치 등 추가적인 안전 장치를 구축해 나갈 것"이라고 전했다.

CNBC는 오픈AI가 최근 아동 보호 조치, 안전 정책 등을 둘러싸고 법적 위험에 점점 더 많이 노출되고 있다고 분석했다.

오픈AI는 캘리포니아 16세 소년 애덤 레인 사망 사건 등 여러 건의 사망 사건과 관련해, 사용자들의 해로운 망상을 부추기고 잘못된 판단을 유도했다는 비판을 받고 있다.

플로리다주도 지난 6월 오픈AI가 안전하지 않은 제품을 고의로 출시했다며 소송을 제기했다.


◎공감언론 뉴시스 [email protected]