중국 군 연구진이 미국 주요 인공지능(AI) 기업의 첨단 모델에서 추론 기술을 무단으로 추출해 자체 국방 및 안보 시스템을 고도화하고 있는 실태가 드러났다.
중국 군사 기관이 미 정부의 반도체 수출 제재를 우회해 미국 첨단 AI 모델의 출력값을 단축키로 활용하면서 자국 무기 체계를 훈련시키고 있다고 영국의 통신사 영국의 통신사 로이터(Reuters)가 7월 31일 보도했다. 이 조사는 중국의 학술 논문과 특허 80여 건을 검토한 조사 결과를 인용했다고 통신은 밝혔다.
미국 워싱턴 D.C. 제임스타운재단(Jamestown Foundation) 연구
오픈AI(OpenAI)는 2015년 미국 샌프란시스코에서 설립된 세계 최대 생성형 AI 기업으로, 대형언어모델(LLM, 거대한 데이터 세트를 학습하여 인간처럼 언어를 이해하고 생성하는 인공지능)인 챗GPT를 통해 글로벌 기술 시장을 이끌고 있다. 앤스로픽(Anthropic)은 2021년 오픈AI 출신 연구진이 설립한 미국의 AI 안전 및 연구 전문 기업으로, 자사의 고성능 AI 모델 ‘클로드(Claude)’ 시리즈를 보유하고 있다. 제임스타운재단(Jamestown Foundation)은 미국 워싱턴 D.C.에 본부를 둔 국제안보 및 외교정책 전문 연구기관이다.
이번 분석은 제임스타운 재단이 수집하고 분석한 자료를 바탕으로 이루어졌다. 중국 인민해방군(PLA) 연계 연구진은 지식 증류(Knowledge Distillation, 성능이 우수한 대형 AI 모델의 답변과 추론 과정을 데이터로 추출해 소형 모델을 효율적으로 학습시키는 기술) 기법을 단축키로 활용해 국방 역량을 대폭 키워온 것으로 나타났다.
美 대형 모델 추론력 추출해 소형 군용 AI 학습
분석 결과에 따르면 중국 군사 연구진은 전장 작전, 감시, 사이버전, 콘텐츠 모니터링 등 다양한 목적을 위해 증류 기술을 사용하고 있다. 서니 청(Sunny Cheung) 제임스타운 재단 연구원은 60여 건의 논문을 분석한 결과를 바탕으로 “모델에게 정답을 가르치는 것도 어렵지만 정답 뒤에 숨겨진 추론 과정을 가르치는 것은 훨씬 힘들다”며 “중국 군 연계 연구자들은 서구 모델의 비싸고 독점적인 추론 능력을 스스로 통제하고 현장에 배포할 수 있는 더 작은 시스템으로 이전하려 시도하고 있다”고 분석했다.
인민해방군 96941부대는 베이징에 본부를 두고 군사 정보 수집과 사이버전 임무를 전담하는 인민해방군 핵심 부대다. 이 부대 연구진은 오픈AI의 ‘GPT-3.5’를 활용해 군용 소프트웨어 코드를 분석 및 요약한 뒤, 이를 바탕으로 군 내부 전용 망에서만 완전히 독립 구동되는 자체 AI 모델을 훈련시켰다.
또한 다른 연구에서는 앤스로픽의 클로드 AI를 사용해 소셜미디어 모니터링 및 콘텐츠 검수 시스템용 훈련 데이터를 생성한 것으로 확인됐다.
국방과학기술대학 연구진은 증류기법을 적용해 이미지 인식 모델을 축소시킴으로써 외부 통신이 절단된 상태에서도 드론(무인 항공기)이 실시간 비디오를 분석할 수 있도록 했다고 영국 일간 인디펜던트가 전했다. 중국 군사과학원 연구진 역시 드론, 무인 함정, 무인 잠수함이 참여한 가상 해상 작전 시뮬레이션에서 증류된 AI 모델을 전술 하드웨어에 배포해 운용했다.
美·中 패권 갈등 가열… 기술 제재 실효성 논란
이 같은 사실이 공개되면서 미국과 중국 간 기술 패권 다툼이 안보 및 지식재산권(IP) 갈등으로 확대되고 있다. 미국 당국자들은 일부 중국 기관들이 증류 기법을 사용해 미국 AI 시스템의 역량을 추출함으로써 기술 수출 통제를 약화시키고 지식재산권을 침해하고 있다고 지적한다. 반면 중국 정부는 미국이 AI 분야의 주도권을 유지하기 위해 비난을 쏟아내고 있다며 이를 일축했다.
💡 Q&A: 정말 중요한 몇 가지…
Q1. 중국 군 연구기관들이 미국 AI 모델을 활용한 주요 목적은 무엇인가요?
A1. 미국 정부의 첨단 반도체 수출 통제로 인해 연산 자원이 부족한 상황에서, 대형 모델 구축에 필요한 시간과 비용을 절감하고 감시·사이버전·드론 구동 등 국방 시스템을 신속하게 강화하기 위한 단축키로 활용했습니다.
Q2. 기사에서 언급된 ‘지식 증류(Knowledge Distillation)’란 어떤 기술인가요?
A2. 성능이 뛰어난 대형 AI 모델의 답변과 추론 과정을 데이터로 추출하여, 크기가 작고 가벼운 소형 모델에 학습시키는 기술입니다. 이를 통해 막대한 자원 없이도 특정 목적에 특화된 고성능 AI를 기기 내부에서 독자적으로 구동할 수 있습니다.
Q3. 인민해방군(PLA) 96941부대는 오픈AI 모델을 어떻게 이용했나요?
A3. PLA 96941부대는 보안상 외부 모델에 직접 입력할 수 없는 군용 소스 코드를 GPT-3.5로 요약한 뒤, 이 요약본을 바탕으로 외부와 차단된 군 내부 네트워크에서만 독립 구동되는 자체 AI 모델을 학습시켰습니다.
Q4. 이번 조사 결과에 대한 미국과 중국의 입장은 어떻게 다른가요?
A4. 미국은 중국이 지식 증류를 통해 수출 통제를 우회하고 지식재산권을 침해하고 있다고 비판하는 반면, 중국은 미국의 AI 패권주의적 주장이라 반박하며 자국 AI 기술은 독자적 혁신에 기반한 것이라고 주장하고 있습니다.
