미군이 AI가 생성한 오정보를 바탕으로 중국 선박에 대한 군사작전을 실행 직전까지 준비했던 사실이 드러났다. CNN은 9월 19일 복수의 소식통을 인용해 이란과의 전쟁이 진행되던 올봄 미군 내부에 중국 선박이 핵무기 프로그램 관련 물자를 운반한다는 정보 보고서가 유통됐다고 보도했다.
AI 오정보로 중국 선박 작전 준비
보고서가 공유되자 미군은 선박을 차단하기 위한 작전에 들어갔고, 소식통 2명에 따르면 무장한 미군 인력이 승선 준비까지 했다. 군용기도 출격했으며, 작전 직전 관계자들이 보고서의 작성 과정을 다시 확인하면서 내용에 중대한 문제가 있다는 사실을 발견했다. 보고서는 하와이에 본부를 둔 미 특수작전사령부 태평양에서 나온 선박 적하 목록 관련 정보 보고를 바탕으로 만들어졌다.
특수작전사령부 분석관은 선박 화물에 관한 정보를 챗봇에 질의했고, 챗봇은 실제 화물을 잘못 식별했다. CNN은 잘못 분류된 화물이 무엇인지는 확인하지 못했으며, 소식통은 해당 보고서가 “완전히 거짓”이었다고 설명했다. 분석관은 챗봇을 다시 사용해 분석 결과를 군 관계자들이 신뢰하는 표준 정보 보고서 형식으로 정리했고, 이 문서가 미군 전체에 배포됐다. 챗봇이 상업용인지 미국 정부가 만든 도구인지는 확인되지 않았다.
해당 AI는 공개정보와 정부가 보유한 비밀 신호정보를 결합해 선박이 운반하는 물자를 추론한 것으로 전해졌다. 이후 보고서가 사실과 다르다는 점이 드러났지만, 중국 선박에 대한 미군의 어떤 작전이든 미중 간 무력 충돌로 번질 위험이 있었다. 미 특수작전사령부 태평양과 국방부는 CNN의 논평 요청에 답하지 않았다.
미군 AI 확대와 검증 공백
미군과 정보기관은 방대한 첩보 분석, 타격 목표 선정, 병력·장비 이동뿐 아니라 예산과 물류, 공급망 관리에도 AI를 활용하려 하고 있다. AI로 전장 판단을 더 빠르게 내릴 수 있고, 중국 등 잠재적 적국보다 기술 도입이 늦어져서는 안 된다는 것이 확대 배경이다. 피트 헤그세스 미국 국방장관은 1월 ‘AI 가속화 전략’을 발표하며 실험을 확대하고 관료적 장벽을 없애겠다고 밝혔다.
이 전략은 약 300만명의 군·민간 인력이 모든 보안등급에서 미국의 AI 모델을 활용할 수 있도록 여러 프로그램을 운영하는 내용을 담았다. 그러나 실제 도입은 조직별로 분산돼 서로 다른 도구와 명령, 안전 기준이 적용되고 있으며, AI가 만든 정보를 검증하는 공통 기준도 없다. 소식통들은 군과 정보기관 곳곳에 배치된 시스템의 신뢰도와 기능이 크게 다르다고 전했다. 특히 표적 선정에 AI를 활용하는 과정에서 인간이 최종 판단에 관여하더라도 민간인 피해나 오폭을 막을 지침이 충분하지 않다는 지적이 나왔다.