인구·선거데이터로 222개 선거구 분석…가짜뉴스 사이트·조작문건도 제작
여러 플랫폼 퍼졌지만 실제 이용자 집단 확산 증거 없어…AI가 제작비·인력 장벽 낮춰
![[서울=뉴시스]인공지능 클로드 로고. 2026.8.13. *재판매 및 DB 금지](https://img1.newsis.com/2026/08/13/NISI20260813_0002211252_web.jpg?rnd=20260813091424)
[서울=뉴시스]인공지능 클로드 로고. 2026.8.13. *재판매 및 DB 금지
[서울=뉴시스]박영환 기자 = 생성형 인공지능(AI) 클로드가 말레이시아 유권자를 겨냥한 선거 여론공작 플랫폼을 만드는 데 활용돼 약 1000개의 가짜 엑스(X·옛 트위터) 계정과 가짜뉴스 사이트, 조작 문건을 한 시스템에서 운용한 것으로 나타났다.
영국 가디언은 1일(현지시간) AI 기업 앤트로픽이 지난 9월 공개한 위협정보 보고서를 인용해 자사 AI 모델 클로드가 말레이시아를 주요 대상으로 한 상업형 선거 여론공작 플랫폼 구축에 이용됐다고 보도했다.
앤트로픽에 따르면 이 플랫폼은 약 1000개의 가짜 X 계정과 가짜뉴스 매체 ‘말레이시아 펄스’, 허위 정보를 담은 조작 문건을 함께 운영하도록 만들어졌다.
운영자들은 말레이시아 전체 222개 연방의회 선거구의 인구통계와 선거 데이터를 불러들여 지역별 유권자를 분석했다. 인종과 종교, 왕실을 둘러싼 말레이시아 사회의 민감한 갈등 지점도 공략 대상으로 삼았다.
클로드는 가짜계정 네트워크를 관리·추적하는 대시보드와 운영 시스템을 구축하는 데 이용됐다. 가짜뉴스 사이트에 공급할 기사를 AI로 다시 쓰는 자동화 체계를 만드는 데도 활용됐다.
‘말레이시아 펄스’는 실제 말레이시아 언론의 기사를 가져와 AI로 여러 차례 다시 쓴 뒤 존재하지 않는 기자 이름을 붙여 게시했다. 신화통신과 스푸트니크·RIA, CGTN 등 러시아·중국의 정부 연계 또는 국영 매체 기사도 원래 출처를 없앤 채 다시 내보냈다.
앤트로픽은 자사 서비스에서 이 활동에 사용된 행위자 계정을 제거하고, 조사 과정에서 파악한 수법을 탐지·차단 체계 강화에 반영했다고 밝혔다. 필요할 경우 관련 정보를 당국과 업계 관계자들에게 공유했다고 설명했다.
메타에서 세계 각국의 선거 관련 공공정책 업무를 담당했던 케이티 하바스 앵커체인지 대표는 AI가 기존 허위정보 공작의 비용과 시간을 크게 낮춘다고 설명했다.
앤트로픽의 9월 보고서에는 말레이시아 외에도 6개 대륙의 이용자를 겨냥한 정치적 영향력 공작 사례가 담겼다. 회사는 정부와 정부 연계 선전기관·매체, 돈을 받고 영향력 공작을 벌이는 민간업체 등이 클로드를 이용한 것으로 파악했다.
동남아시아는 AI 등장 전부터 온라인 허위정보가 정치 문제로 떠오른 지역이다. 노벨평화상 수상자인 필리핀 언론인 마리아 레사는 필리핀을 ‘허위정보 공작의 시험장’에 비유해왔다. 이곳에서 먼저 시험된 허위정보 수법이 이후 서방에서도 활용됐다는 의미다.
영국 가디언은 1일(현지시간) AI 기업 앤트로픽이 지난 9월 공개한 위협정보 보고서를 인용해 자사 AI 모델 클로드가 말레이시아를 주요 대상으로 한 상업형 선거 여론공작 플랫폼 구축에 이용됐다고 보도했다.
앤트로픽에 따르면 이 플랫폼은 약 1000개의 가짜 X 계정과 가짜뉴스 매체 ‘말레이시아 펄스’, 허위 정보를 담은 조작 문건을 함께 운영하도록 만들어졌다.
운영자들은 말레이시아 전체 222개 연방의회 선거구의 인구통계와 선거 데이터를 불러들여 지역별 유권자를 분석했다. 인종과 종교, 왕실을 둘러싼 말레이시아 사회의 민감한 갈등 지점도 공략 대상으로 삼았다.
클로드는 가짜계정 네트워크를 관리·추적하는 대시보드와 운영 시스템을 구축하는 데 이용됐다. 가짜뉴스 사이트에 공급할 기사를 AI로 다시 쓰는 자동화 체계를 만드는 데도 활용됐다.
‘말레이시아 펄스’는 실제 말레이시아 언론의 기사를 가져와 AI로 여러 차례 다시 쓴 뒤 존재하지 않는 기자 이름을 붙여 게시했다. 신화통신과 스푸트니크·RIA, CGTN 등 러시아·중국의 정부 연계 또는 국영 매체 기사도 원래 출처를 없앤 채 다시 내보냈다.
앤트로픽은 자사 서비스에서 이 활동에 사용된 행위자 계정을 제거하고, 조사 과정에서 파악한 수법을 탐지·차단 체계 강화에 반영했다고 밝혔다. 필요할 경우 관련 정보를 당국과 업계 관계자들에게 공유했다고 설명했다.
메타에서 세계 각국의 선거 관련 공공정책 업무를 담당했던 케이티 하바스 앵커체인지 대표는 AI가 기존 허위정보 공작의 비용과 시간을 크게 낮춘다고 설명했다.
앤트로픽의 9월 보고서에는 말레이시아 외에도 6개 대륙의 이용자를 겨냥한 정치적 영향력 공작 사례가 담겼다. 회사는 정부와 정부 연계 선전기관·매체, 돈을 받고 영향력 공작을 벌이는 민간업체 등이 클로드를 이용한 것으로 파악했다.
동남아시아는 AI 등장 전부터 온라인 허위정보가 정치 문제로 떠오른 지역이다. 노벨평화상 수상자인 필리핀 언론인 마리아 레사는 필리핀을 ‘허위정보 공작의 시험장’에 비유해왔다. 이곳에서 먼저 시험된 허위정보 수법이 이후 서방에서도 활용됐다는 의미다.
![[마닐라=AP/뉴시스] 21일(현지 시간) 필리핀 마닐라에서 활동가들이 계엄령 선포 54주년을 맞아 열린 시위에 참여해 주먹을 치켜들고 구호를 외치고 있다. 1965년 대통령이 된 페르디난드 마르코스는 1972년 9월 21일 계엄령을 선포해 의회를 폐쇄하고 언론을 억압하며 장기 독재 체제를 구축했으며, 독재에 반대하는 사람들을 투옥하거나 살해했다. 2026.09.22.](https://img1.newsis.com/2026/09/22/NISI20260922_0001598117_web.jpg?rnd=20260922081207)
[마닐라=AP/뉴시스] 21일(현지 시간) 필리핀 마닐라에서 활동가들이 계엄령 선포 54주년을 맞아 열린 시위에 참여해 주먹을 치켜들고 구호를 외치고 있다. 1965년 대통령이 된 페르디난드 마르코스는 1972년 9월 21일 계엄령을 선포해 의회를 폐쇄하고 언론을 억압하며 장기 독재 체제를 구축했으며, 독재에 반대하는 사람들을 투옥하거나 살해했다. 2026.09.22.
필리핀 싱크탱크 시글라에서 AI를 연구하는 로신 팔로리나는 생성형 AI가 과거 여러 사람이 동원됐던 ‘트롤 공장’의 일을 훨씬 적은 인력으로 처리할 수 있게 했다고 설명했다. 여러 사람이 나눠 만들던 이야기와 게시물을 AI에 지시해 대량 생산할 수 있게 됐다는 것이다.
실제로 오픈AI는 2025년 필리핀 정치와 공직자를 다룬 댓글을 대량 생산하는 데 챗GPT를 사용한 계정들을 차단했다. 생성된 댓글 상당수는 페르디난드 마르코스 주니어 대통령과 그의 정책을 지지하거나 사라 두테르테 부통령을 비판하는 내용이었다.
그러나 콘텐츠 생산량이 곧 영향력을 뜻하지는 않았다. 오픈AI는 당시 확인된 댓글 가운데 실제 이용자로부터 두 자릿수 이상의 답글이나 ‘좋아요’, 공유를 받은 것은 없었으며 대부분에는 반응이 전혀 없었다고 밝혔다.
브리지트 웰시 영국 노팅엄대 아시아연구소 연구원은 AI가 사회의 기존 분열을 이용하면서 정치적 양극화를 더 키울 가능성을 우려했다. 가디언은 말레이시아가 2027년 말 총선을 치를 가능성이 있고 필리핀과 캄보디아는 2028년, 인도네시아는 2029년 선거를 앞두고 있다고 전했다.
AI가 선거에서 실제 이미지 전략에 활용된 사례도 있다. 인도네시아에서는 2024년 대선 당시 프라보워 수비안토 현 대통령을 친근한 만화 캐릭터처럼 묘사한 AI 이미지가 큰 인기를 끌었다. 가디언은 이 이미지가 강경파라는 기존 이미지를 누그러뜨리는 데 도움을 줬다고 전했다.
반대로 AI 콘텐츠가 이미 존재하는 혐오와 갈등을 강화하는 데 이용될 가능성도 제기된다. 벤 로 모나시대 말레이시아 캠퍼스 미디어학 강사는 미얀마에서 말레이시아로 피신한 로힝야족을 겨냥한 혐오 콘텐츠를 사례로 들며, AI로 만든 콘텐츠라도 기존 편견과 맞아떨어지면 사람들이 이를 사실로 받아들이기 쉽다고 지적했다.
하바스 대표는 앞으로는 AI를 이용해 온라인 공간에 특정 내용을 대량으로 쏟아붓는 이른바 ‘플러드 더 존(flood the zone)’ 전략이 더 큰 문제가 될 수 있다고 내다봤다. 독립적인 뉴스가 부족하거나 정부 지원 매체의 비중이 큰 곳에서는 비교적 적은 비용으로 온라인 정보공간을 특정 내용으로 채울 수 있으며, 결국 AI 시스템이 참고하는 정보환경까지 오염시킬 가능성이 있다는 우려다.
◎공감언론 뉴시스 [email protected]
실제로 오픈AI는 2025년 필리핀 정치와 공직자를 다룬 댓글을 대량 생산하는 데 챗GPT를 사용한 계정들을 차단했다. 생성된 댓글 상당수는 페르디난드 마르코스 주니어 대통령과 그의 정책을 지지하거나 사라 두테르테 부통령을 비판하는 내용이었다.
그러나 콘텐츠 생산량이 곧 영향력을 뜻하지는 않았다. 오픈AI는 당시 확인된 댓글 가운데 실제 이용자로부터 두 자릿수 이상의 답글이나 ‘좋아요’, 공유를 받은 것은 없었으며 대부분에는 반응이 전혀 없었다고 밝혔다.
브리지트 웰시 영국 노팅엄대 아시아연구소 연구원은 AI가 사회의 기존 분열을 이용하면서 정치적 양극화를 더 키울 가능성을 우려했다. 가디언은 말레이시아가 2027년 말 총선을 치를 가능성이 있고 필리핀과 캄보디아는 2028년, 인도네시아는 2029년 선거를 앞두고 있다고 전했다.
AI가 선거에서 실제 이미지 전략에 활용된 사례도 있다. 인도네시아에서는 2024년 대선 당시 프라보워 수비안토 현 대통령을 친근한 만화 캐릭터처럼 묘사한 AI 이미지가 큰 인기를 끌었다. 가디언은 이 이미지가 강경파라는 기존 이미지를 누그러뜨리는 데 도움을 줬다고 전했다.
반대로 AI 콘텐츠가 이미 존재하는 혐오와 갈등을 강화하는 데 이용될 가능성도 제기된다. 벤 로 모나시대 말레이시아 캠퍼스 미디어학 강사는 미얀마에서 말레이시아로 피신한 로힝야족을 겨냥한 혐오 콘텐츠를 사례로 들며, AI로 만든 콘텐츠라도 기존 편견과 맞아떨어지면 사람들이 이를 사실로 받아들이기 쉽다고 지적했다.
하바스 대표는 앞으로는 AI를 이용해 온라인 공간에 특정 내용을 대량으로 쏟아붓는 이른바 ‘플러드 더 존(flood the zone)’ 전략이 더 큰 문제가 될 수 있다고 내다봤다. 독립적인 뉴스가 부족하거나 정부 지원 매체의 비중이 큰 곳에서는 비교적 적은 비용으로 온라인 정보공간을 특정 내용으로 채울 수 있으며, 결국 AI 시스템이 참고하는 정보환경까지 오염시킬 가능성이 있다는 우려다.
◎공감언론 뉴시스 [email protected]
