[서울=뉴시스]박영환 기자 = 미군의 이란 학교 공습으로 어린이 최소 123명이 숨진 사건을 두고 미국의 군사용 인공지능(AI) 플랫폼 개발업체 팔란티어가 인간의 실수 가능성을 제기하며 AI에 대한 과도한 의존을 원인으로 지목한 보도를 반박했다.

미 CBS뉴스는 11일(현지시간) 시사프로그램 '페이스 더 네이션'에서 샴 산카르 팔란티어 최고기술책임자(CTO)와 진행한 인터뷰를 공개했다. 산카르 CTO는 "가능성 높은 원인은 인간의 실수"라며 AI 과신 문제를 제기한 한 외신 보도가 부정확하다고 주장했다. 인터뷰는 지난 9일 진행됐다.

앞서 지난 2월28일 미군의 토마호크 미사일 2발이 이란 남부 미나브의 샤자레 타예베 초등학교를 타격했다. 이 공습으로 150명 넘게 숨졌으며 사망자 가운데 어린이는 최소 123명으로 집계됐다.

한 외신은 미나브 학교가 들어선 부지가 과거 이란 혁명수비대(IRGC)의 군사시설로 사용됐다고 보도했다. 학교와 군 시설은 수년 전부터 담장과 별도 출입구로 구분돼 있었지만, 미군의 공격 대상 정보에는 이러한 변화가 제대로 반영되지 않았다는 것이다. 또 지난 9월 미 국방부 내부 조사에 관여한 당국자들을 인용해 미나브 공습에서 오래된 정보와 위성영상, AI에 대한 과도한 의존 등이 복합적으로 작용했다고 보도했다

공격 대상 정보의 오류와 함께 AI가 해당 정보를 어떻게 처리했는지도 쟁점으로 떠올랐다. 미군이 사용하는 팔란티어의 '메이븐 스마트 시스템'은 위성영상과 각종 군사정보 등 150개가 넘는 경로에서 들어오는 데이터를 통합해 지휘관의 작전 판단과 표적 선정 과정을 지원하는 소프트웨어다.

산카르 CTO는 AI가 스스로 공격 대상을 결정하는 것은 아니라고 강조했다. 지휘관이 적 방공망 무력화와 같은 작전 목표를 정하면 AI는 관련 표적을 찾고, 찾아낸 표적이 공격 금지 목록에 올라 있는지 또는 민간 시설과 지나치게 가까운지 등을 검토하는 과정을 지원한다는 것이다. 그는 AI가 군사작전의 준비 속도를 크게 높였다고 주장했다. 과거에는 50명이 약 2주 동안 계획을 세워야 했을 하루 1000차례 규모의 공격을 AI를 활용하면 한 사람이 약 4시간 만에 준비할 수 있다는 설명이다.

AI의 정보 검증 기능뿐 아니라 미군 내부의 민간인 피해 예방 절차에도 문제가 있었다는 지적도 나왔다. 이 외신은 국방부가 관련 인력을 대폭 감축했으며 미나브 학교를 공격 대상으로 결정하는 과정에서 민간인 피해 가능성을 평가하는 담당자의 검토가 이뤄지지 않았다고 전했다.

이에 대해 산카르 CTO는 CBS 인터뷰에서 "최종 보고서를 기다려야 한다"면서도 해당 외신 보도가 부정확하다고 반박했다. 진행자가 AI 과신 문제 대신 인간의 실수를 원인으로 보는 것이냐고 재차 묻자 산카르 CTO는 보도가 틀렸다는 입장을 거듭 밝혔다.

팔란티어는 앞서 메이븐에 입력되는 기초 정보의 정확성을 확인할 책임은 자사에 없으며, 미나브 공습에서 소프트웨어 자체에 결함이 있었다는 증거도 없다는 입장을 밝혔다. 소프트웨어 자체의 결함은 인정하지 않으면서도 사고 이후 AI를 이용한 추가 검증 기능을 개발했다. 산카르 CTO는 기존에 회사가 맡지 않았던 일부 검토 작업도 AI 에이전트가 다시 하도록 기능을 확대했다고 설명했다. 유사한 사고가 재발하지 않도록 하기 위한 조치라는 것이다.

CBS 진행자는 헤그세스 국방장관 재임 중 이뤄진 민간인 피해 예방 인력 감축 문제도 거론했다. 민주당 소속 미 하원의원 120명은 헤그세스 장관에게 메이븐을 포함한 AI가 이번 공습에서 어떤 역할을 했는지 설명하라는 서한을 보냈다. 산카르 CTO는 미나브 공습에서 구체적으로 무엇이 잘못됐는지에 대해서는 국방부가 설명할 사안이라고 말했다.

미 국방부의 최종 조사보고서는 아직 공개되지 않았다. 산카르 CTO도 보고서 공개 시점을 알지 못한다면서 "진실이 공개되기를 바란다"고 말했다. 그는 AI 사용 과정에서 사고가 발생할 경우 개발 기업과 이용자의 책임을 구분해야 한다는 입장도 밝혔다. AI 제품에 결함이 있다면 개발 기업이 책임져야 하지만 정상적으로 작동하는 제품을 잘못 사용했다면 이용자가 책임져야 한다는 것이다.

그는 군사 분야에서 무력 사용에 관한 의사결정에는 인간이 참여해야 하며 모든 결정에 인간이 책임을 져야 한다고 강조했다.


◎공감언론 뉴시스 yunghp@newsis.com