미국의 AI 규제를 늦추면 중국과의 경쟁에서 유리해진다는 도널드 트럼프 대통령의 주장은 오히려 미국 국가안보를 약화할 수 있다는 분석이 나왔다. 더컨버세이션(The Conversation)에 실린 9월 26일 기고는 AI 개발 속도를 통제하면 중국의 첨단 AI 접근과 악용 가능성도 낮출 수 있다고 주장했다.
무규제 AI, 사이버 공격·무기 개발에 악용 우려
기고는 규제 없는 AI 산업의 확장이 외국 정부와 테러 단체의 공격 역량을 키울 수 있다고 지적했다. AI가 재래식 무기와 대량살상무기 개발에 활용될 수 있고, 보안 취약점을 찾아내 공격하는 능력이 발전하면서 사이버 공격의 피해도 커질 수 있다는 것이다. 핵미사일 발사, 대유행병을 일으킬 병원체의 확산, 생명 유지에 필수적인 기반시설 공격도 잠재적 위험으로 거론됐다. 최근 여론조사에서는 미국인 10명 중 8명가량이 AI의 위험을 우려하고, 민주당·무당층·공화당 유권자 다수가 규제 강화를 지지한 것으로 소개됐다.
AI가 악용된 구체적 사례도 제시됐다. 앤트로픽(Anthropic)은 9월 10일 보고서에서 중국·러시아·이란에 기반을 둔 일부 외국 행위자들이 클로드(Claude)를 사이버 공격, 여론 조작, 감시, 사기와 무기 개발 지원에 활용한 사례를 공개했다. 보고서에는 생물무기 개발을 지원할 수 있는 방식으로 모델을 사용한 사례 5건도 담겼다. 구글(Google) 역시 중국·러시아·북한·이란과 연계된 행위자들이 제미나이(Gemini)를 해킹, 허위정보 유포, 첩보 활동, 범죄에 이용하려 한 시도를 포착했다고 기고는 전했다.
미국의 AI 개발 속도와 중국의 추격
기고는 중국의 AI 발전이 미국과 무관하게 진행되는 것이 아니라고 설명했다. 중국 기업들은 최첨단 미국 AI 모델의 출력을 활용해 자국 모델을 훈련하는 ‘증류’ 기법을 쓰며, 이 방식으로 상대적으로 적은 자원으로도 성능이 높은 모델을 개발할 수 있다는 것이다. 카네기국제평화재단의 맷 시한 선임연구원은 중국의 컴퓨팅 역량이 미국의 10분의 1 수준으로 추정된다고 설명했다. 기고는 이를 미국이 속도를 높이면 중국이 뒤따르고, 미국이 늦추면 중국도 영향을 받는 수상스키와 스피드보트의 관계에 비유했다.
미국은 앞선 AI 모델과 반도체, 컴퓨팅 인프라 규모, 투자 자본을 바탕으로 여전히 세계 최고 수준의 AI 역량을 보유한 것으로 기술 전문가들이 평가한다고 기고는 전했다. 반면 AI에 필요한 전력 생산에서는 중국이 강점을 갖고 있으며, 미국의 빠른 기술 발전이 중국 산업의 성장을 돕기도 한다고 짚었다. 따라서 개발 경쟁에서 무조건 속도를 높인다고 미국의 우위가 확대되는 것은 아니며, 중국 기업이 미국의 발전을 이용해 공격 역량을 강화할 수 있다는 주장이다.
기고는 중국의 AI 추격을 이유로 미국의 규제 강화를 거부하는 접근이 안보를 보장하지 않는다고 결론지었다. 오히려 미국의 규제가 첨단 AI의 확산 속도를 늦추면 중국 정부가 해당 기술에 접근하는 속도도 낮아져 안보를 강화할 수 있다는 논리다. 트럼프 대통령은 9월 21일 소셜미디어에 “AI에서 이기는 자가 이긴다”고 썼고, 유엔 연설에서는 AI를 통제하려는 국제적 구상을 거부했다. 기고는 중국의 추격뿐 아니라 통제되지 않은 AI의 악용 위험도 미국 안보 정책에서 함께 고려해야 한다고 강조했다.