오픈AI "中 당국 관련자, 챗GPT로 다카이치 비난 여론조작 시도"

[서울=뉴시스]임철휘 기자 = 중국 당국 관련자가 챗GPT를 악용해 다카이치 사나에 일본 총리 비난 여론을 확산하기 위한 계획을 세우려 했다고 오픈AI가 25일(현지 시간) 밝혔다.

오픈AI는 이날 생성형 인공지능(AI) 챗봇 챗GPT 악용 사례를 정리한 보고서를 공개하고 다카이치 총리를 겨냥한 온라인 여론 조작 시도 정황을 확인했다고 밝혔다.

보고서에 따르면 중국 당국 관련자로 추정되는 사용자는 지난해 10월 당시 차기 총리로 유력시되던 다카이치 당시 자민당 총재가 중국 네이멍구자치구의 인권 상황을 공개적으로 비판한 뒤 챗GPT에 비난 여론 확산을 돕는 계획 수립을 요청했다.

사용자는 외국인 정책, 물가 상승, 극우 성향, 미국 관세에 대한 분노 자극 등을 소재로 소셜미디어(SNS)에서 부정적 여론을 증폭시키자는 취지의 제안을 했으나, 챗GPT는 이에 협조를 거부했다고 오픈AI는 설명했다.

다만 같은 달 말 이 사용자는 이른바 '반(反) 다카이치' 작전의 실행 상황을 정리한 보고서 문안을 다듬어 달라며 다시 챗GPT에 접근했다.

오픈AI는 해당 공작 초안은 우리 모델을 사용하지 않고도 진행된 것으로 보인다고 밝혔다.

오픈AI는 비슷한 시기 SNS에 실제로 이 같은 기획을 반영한 게시물이 공유된 정황이 있으나 "큰 영향이 있었던 것으로 보이지는 않는다"고 분석했다.

오픈AI는 해당 사용자의 챗GPT 이용을 금지하고 계정을 정지했다고 밝혔다.

오픈AI는 이와 함께 캄보디아 거점 집단이 로맨스 스캠에 AI를 악용해 인도네시아 등에서 매달 수백 건의 피해가 발생한 사례도 보고했다.

오픈AI는 AI를 이용한 여론 조작과 사이버 범죄 악용 사례를 정기적으로 공개하고 있다.


◎공감언론 뉴시스 [email protected]