"미군, AI 생성 '허위 정보'에 中 선박 나포할 뻔…작전 직전 중단"

(서울=뉴스1) 윤다정 기자 = 미군이 인공지능(AI)이 만들어낸 허위 정보 보고서를 근거로 중동 해역에서 중국 선박을 나포하려다 작전 실행 직전 가까스로 중단하는 일이 발생했다고 18일(현지시간) CNN이 복수의 소식통을 인용해 보도했다.

소식통 4명에 따르면, 이란과의 전쟁이 한창이던 올봄 "중동 해역의 중국 선박이 핵무기 프로그램 부품을 운반 중"이라는 내용의, 특수작전사령부 소속 분석관이 작성한 정보 보고서가 미군 전반에 회람됐다.

미군은 곧바로 선박 차단 계획에 착수했다. 무장 병력이 승선을 준비했고 군용기도 공중에 띄웠다.

그러나 작전 직전 당국자들이 보고서를 정밀 검토한 결과, 해당 보고서는 분석관이 AI의 도움을 받아 작성한 것이었으며, 분석관이 사용한 챗봇이 선박에 실린 물질을 부정확하게 식별한 것으로 확인됐다.

분석관은 하와이에 있는 미 태평양특수작전사령부에서 나온 해당 선박의 적하목록 관련 첩보를 챗봇에 질의했고, 챗봇은 공개출처정보와 정부 보유 비밀 신호정보를 융합해 결론을 내렸다.

분석관은 다시 AI를 이용해 이를 군 당국자들이 신뢰하는 표준 정보 보고서 형태로 정리한 뒤 배포했다.

한 소식통은 이 보고서가 "전적으로 거짓"이었으며 "하마터면 전쟁을 일으킬 뻔했다"고 말했다.

CNN은 "해당 챗봇이 상용 제품인지 정부 자체 개발품인지는 분명하지 않다"고 전했다. 다만 한 전직 미 고위 당국자는 "내부 도구들은 대부분 상용 제품에 립스틱만 바른 복제품에 불과하다"고 지적했다.

미군과 정보 당국은 원시정보 분석과 타격 목표 선정, 예산·군수·공급망 등 관리에 이르기까지 업무 전반에 AI를 접목하고 있다.

피트 헤그세스 국방장관은 지난 1월 '인공지능 가속화 전략'을 발표하고 300만 명의 민간·군 인력에게 모든 비밀등급에서 AI 모델을 직접 제공하겠다는 방침을 내놨다.

그러나 도입이 분산적으로 이뤄지면서 부문별로 사용하는 도구와 안전 기준이 제각각이고, AI가 생성한 정보를 검증하는 단일 기준도 없다고 복수의 미 당국자들은 지적했다.

군의 현행 정책에 정통한 한 소식통은 "표적 선정에서 AI 활용이 확대되고 있지만, 인간이 의사결정 고리에 포함되는 것이 민간인 사상자나 아군 오인 사격을 어떻게 막을 것인지에 대한 실질적 지침은 없다"고 말했다.

또 다른 소식통은 이번 사례와 같은 AI의 '환각' 현상은 관련 도구가 정부 전반에 확산한 이후 정보 당국 내에서 예외적으로 벌어진 사건이 아니라고 지적했다.

일부 고참 정보 당국자들은 AI가 분석관들에게 더 빠른 생산·배포 압박을 가해 실수의 여지를 넓히고 있으며, 특히 젊은 분석관들이 이 도구를 비판 없이 신뢰하는 경향이 있다고 우려했다.

maum@news1.kr