오픈AI, 플로리다주에 피소…"챗GPT가 총격·자살 부추겨"

[서울=뉴시스]고재은 기자 = 미국 플로리다주가 오픈AI가 챗GPT의 아동 유해성과 범죄 악용 가능성을 숨기고 공격적인 홍보에 나섰다며 주(州) 정부 최초로 법적 공방에 나섰다.

AP통신, CNBC 등에 따르면 플로리다주는 1일(현지 시간) 오픈AI와 샘 올트먼 최고경영자(CEO)를 기만적이고 불공정한 거래 행위와 제품 책임법 위반 등의 혐의로 플로리다 제10순회법원에 민사 소송(civil suit)을 제기했다.

제임스 우트마이어 플로리다주 법무장관은 기자회견에서 "오픈AI와 샘 올트먼 최고경영자(CEO)는 내·외부 안전 경고를 무시하고 아동들을 심각한 위험에 빠뜨렸다"며 "위험한 제품이 수백만 명의 플로리다 주민들에게 유통됐다"고 말했다.

그는 두 건의 총격 사건을 언급하며 용의자들이 범행을 준비하는 과정에서 챗GPT를 활용했다고 주장했다.

플로리다 당국은 특히 '2025년 플로리다 주립대학교 총기 난사 사건'과 관련해 챗GPT가 총격범에게 구체적인 조언을 제공했다고 보고 수사에도 착수한 상태다.

이번 소장에는 챗GPT가 실질적인 부모 감독 없이 미성년자의 데이터를 수집하고 있으며, 아동의 행동 중독과 인지 기능 저하를 유발한다는 주장도 포함된 것으로 전해졌다.

지난해 챗GPT와 장시간 대화를 나눈 뒤 스스로 목숨을 끊은 16세 애덤 레인의 사례도 언급됐다. 소장에 따르면 챗GPT는 레인이 자살 충동을 호소했을 당시 '아름다운 자살'을 계획하는 데 도움을 줬고 유서 작성에도 관여했다.

반면 오픈AI는 안전장치를 마련해 뒀다는 입장이다.

회사는 "챗GPT는 수억 명이 매일 합법적으로 사용하는 범용 도구"라며 "유해한 의도를 탐지하고, 오용을 제한하며, 안전 위험이 발생했을 때 적절히 대응하고자 안전장치를 지속적으로 강화하고 있다"고 해명했다.   

이어 연령 예측 기능, 부모의 자녀 AI 사용 모니터링 도구 등 미성년자 보호 정책도 시행 중이라고 강조했다.


◎공감언론 뉴시스 [email protected]