[서울=뉴시스] 강영진 기자 = 지난 봄 이란과 전쟁이 한창이던 때 미군이 인공지능을 이용해 작성한 잘못된 정보 보고서로 인해 미군이 중국 선박을 공격하기 직전까지 갔었다고 미 CNN이 18일(현지시각) 보도했다.

CNN은 잘못된 보고서로 인해 미국과 중국 사이에 “거의 전쟁이 일어날 뻔했다”고 전했다.

미 특수작전사령부의 한 정보 분석관이 인공지능의 도움을 받아 중국 선박이 치명적 물질을 싣고 이란으로 향하고 있다는 내용의 보고서를 작성했다.

이에 따라 미군은 선박을 차단하기 위한 작전 계획을 세우고 즉각 움직이기 시작했다. 미군 요원들이 선박에 승선할 준비를 했고 군용기들이 이미 선박 상공에 떠 있었다.

당국자들은 작전 실행 직전에 보고서를 다시 점검해 보고서가 인공지능의 도움을 받아 작성됐으며 인공지능이 선박이 운송하던 물질을 잘못 식별했음을 발견했다.

한 소식통은 보고서가 “완전히 거짓이었으나 거의 전쟁을 일으킬 뻔했다”고 전했다.

중국 선박에 대한 미군의 작전은 양국 사이의 무력 충돌로 걷잡을 수 없이 확대될 위험이 있었다.

미군과 정보기관 전반에서 당국자들은 거의 모든 업무 영역에 인공지능을 접목하려 시도하고 있다.

그러나 이번 사건은 전쟁 중 표적 선정에 인공지능을 사용하는데 엄청난 위험이 따를 수 있음을 보여준다.

이번 사건에서 분석관은 하와이에 있는 미군 태평양 특수작전사령부가 작성한 해당 선박의 화물 목록 관련 정보 보고 내용을 놓고 인공지능에 질문했다.

인공지능은 공개출처 정보와 정부가 보유한 비밀 신호정보를 결합해 해당 선박이 운송하던 물질에 관한 결론을 내렸다.

분석관은 다시 인공지능을 사용해 조사 결과를 표준 정보 보고서 형식으로 정리해 배포했다. 이 형식의 보고서는 군 관계자들이 신뢰하는 종류의 정보 보고서였다.

인공지능을 신속하게 도입하는 근거는 인공지능이 군이 전장에서 어떤 목표물을 타격할지, 어떤 군사 자산을 어디로 이동시킬지 같은 결정을 더 빠르게 내리는 데 도움을 줄 수 있다는 것이다.

그러나 중국 선박 사건은 인공지능이 초래할 수 있는 즉각적인 위험을 부각한다. 인간이 인공지능이나 다른 자동화 시스템이 생성한 부정확하거나 오해를 불러일으키는 정보를 근거로 재앙적인 결정을 내리는 위험이다.

소식통들은 미군이 표적 선정에 인공지능을 활용하는 방향으로 빠르게 전환하고 있다고 말했다. 표적 선정은 치명적인 실수가 발생할 명백한 위험을 안고 있는 분야다.

한 소식통은 “인공지능을 사용한 표적 선정이 확대되고 있으며 민간인 사상자나 아군 오인 사격을 막을 수 있도록 하는 실질적인 지침이 없다”고 밝혔다.

소식통에 따르면 이번 사건에서 분석관이 사용한 도구가 만들어낸 것과 같은 ‘환각’이 다른 정보기관에서도 발생했다.


◎공감언론 뉴시스 yjkang1@newsis.com