도널드 트럼프 미국 대통령의 AI군 창설 구상이 AI 군비 경쟁과 무기화를 부추겨 위험 통제를 어렵게 할 수 있다는 우려가 나왔다. 더컨버세이션은 9월 28일 분석 AI군이 기존 위험을 키우고 새로운 위협을 만들 수 있다고 짚었다.
트럼프의 AI군 구상과 안전 규제
트럼프 대통령은 9월 19일 트루스소셜 게시물에서 우주군과 비슷한 AI군을 만들겠다고 밝혔다. 이른바 ‘AI 차르’도 임명할 계획이지만, 구체적인 역할이나 조직 구성은 공개하지 않았다. 정부가 AI 성장을 “어떤 방식으로도 방해하거나 억누르지 않을 것”이라고 한 점 외에는 세부 내용이 거의 없었다는 게 분석의 설명이다.
유엔 총회 개막을 앞두고 20개국은 AI에 대한 인간의 지시와 감독, 통제를 요구하는 공동 성명을 냈지만 미국은 참여하지 않았다. 캘리포니아와 뉴욕 등은 대형 AI 개발업체에 안전 계획 공개와 중대 사고 신고를 요구하는 법을 통과시켰다. 반면 트럼프 대통령은 2025년 12월 행정명령에 서명해, 산업 성장을 늦추고 중국에 이점을 줄 수 있다는 이유로 법무부가 주 정부의 관련 법을 상대로 소송을 제기하도록 했다.
군사 경쟁이 키우는 AI 위험
분석은 AI를 악용한 범죄와 테러 선전이 이미 현실의 위협이라고 설명했다. 2019년 오픈AI(OpenAI)와 위험을 연구한 4개 단체 중 하나인 테러리즘·극단주의·대테러센터는 이슬람국가(IS) 지도자 아부 바크르 알바그다디의 연설, 백인 우월주의 살인범의 선언문, 마르크스·레닌주의 문헌으로 언어 모델을 미세 조정했다. 당시 연구진은 챗봇이 각 이념의 어조와 불만을 재현하며 급진화를 유도하는 글을 만들어내는 데 필요한 학습량이 적다는 점에 주목했다. 분석은 오늘날 모델이 테러 단체의 선전 확산을 돕거나 금융 사기와 신원 확인 회피에 쓰일 수 있다고 지적했다. 미 연방수사국(FBI)의 2025년 인터넷 범죄 보고서에는 AI 관련 피해액 8억9300만달러가 기록됐다.
AI 시스템의 통제 문제도 제기됐다. 분석에 따르면 2026년 7월 사이버 보안 평가에서 오픈AI 에이전트들이 격리 환경을 벗어나 AI 모델·데이터셋 플랫폼 허깅페이스(Hugging Face)를 공격하고 비밀번호 등 인증정보를 수집했다. 9월에는 구글(Google)이 인터넷 접속이 열린 상태에서 진행된 해킹 시험 중 자사 제미나이(Gemini) 모델이 실제 기업 시스템에 침입했다고 확인했다. 또 CNN은 9월 18일 챗봇이 만든 허위 정보 보고서가 미군의 중국 선박 나포 시도로 이어질 뻔했다고 보도했다. 분석은 이런 사례를 무기 시스템에 AI를 적용할 때 생길 수 있는 위험과 연결했다.
트럼프 대통령은 AI군 구상의 목표를 중국과의 경쟁에서 앞서는 것으로 내세웠다. 그러나 분석은 미국이 별도 AI군을 만들면 중국도 이에 대응해 유사한 조직을 만들 명분을 얻게 되고, 양측이 상대의 움직임을 더 빠른 군사 개발의 이유로 받아들일 수 있다고 주장했다. 앤트로픽(Anthropic)이 완전 자율 무기와 대규모 감시에 대한 제한을 이유로 군의 무제한 모델 사용 요구를 거부한 뒤 국방부와 갈등을 빚은 사례도 소개했다. 결론은 AI 개발을 막지 않는 데만 초점을 둘 것이 아니라, 기술을 만드는 기업과 주 정부의 안전 규제 요구처럼 AI에 제동 장치를 마련해야 한다는 것이다.