"이란 학교 참사? 문제는 메이븐” 가디언, 표적 시스템 정조준

[서울=뉴시스] 박영환 기자 = 미군이 이란의 한 초등학교를 오폭해 어린 소녀들을 포함한 180명에 육박하는 인명을 살상한 참극의 이면에 팔란티어의 인공지능(AI) 시스템 '메이븐(Maven)'이 있었다는 주장이 제기됐다.

26일(현지시간) 영국의 가디언은 지난달 28일 미군의 '장대한 분노' 작전 중 발생한 미나브 지역 샤자레 타예베 초등학교 폭격 사건은 AI 챗봇의 오류가 아닌, 인간의 신중함을 '지연'으로 간주해 제거한 타격 시스템의 구조적 결함이 원인이라고 분석했다. 당시 공격으로 175명에서 180명 사이의 인원이 사망했으며, 희생자의 대부분은 7세에서 12세 사이의 어린 소녀들이었다.

사건 직후 미 의회와 언론은 앤스로픽의 챗봇 '클로드'가 타겟을 선정했는지를 두고 'AI의 인격'이나 '환각' 문제를 논하며 비난의 화살을 돌렸다. 하지만 실제 타격 인프라는 팔란티어 테크놀로지스가 구축한 '메이븐' 시스템이라고 가디언은 지적했다. 2018년 구글 직원들의 반대로 무산될 뻔했던 이 프로젝트를 팔란티어가 이어받아 지난 6년간 인간의 개입을 최소화하는 방향으로 고도화했다. 그 결과, 과거 2000명의 인력이 처리하던 타격 프로세스를 단 20명의 군인이 감당하게 되었으며, 시간당 1000개의 타격을 결정하는 이른바 '죽음의 컨베이어 벨트'가 완성됐다는 것이다.

이번 참사의 직접적 도화선은 낡은 데이터베이스였던 것으로 파악된다. 미 국방정보국(DIA) 데이터에는 해당 건물이 여전히 이슬람혁명수비대(IRGC) 시설로 분류되어 있었으나, 이미 2016년에 학교로 전환된 사실이 위성 사진으로 확인된 상태였다. 하지만 72초마다 한 번씩 결정을 내려야 하는 메이븐의 광속 시스템 안에서 이 오류를 포착할 '인간의 판단력'은 배제됐다고 가디언은 주장했다.

가디언은 이번 사건을 'AI 문제'로 치부하는 것은 비겁한 책임 회피라고 강하게 비판했다. 매체는 클라우제비츠가 강조한 '마찰(Friction)', 즉 불확실성을 거르는 신중한 검토 과정이 효율성을 방해하는 요소로 취급되어 삭제된 것이라며  "타격의 신중함을 '지연'으로 규정하고 제거하기로 결정한 것은 AI가 아니라 바로 인간들이었다"고 꼬집었다.


◎공감언론 뉴시스 [email protected]