미국이 중국과 AI 시스템의 위험·예측불가능한 행동을 알리는 안전경보 채널을 구축하자고 제안했지만, 중국은 아직 이 구상을 공개적으로 언급하지 않고 있다. 아스 테크니카는 24일 스콧 베선트 미국 재무장관이 도널드 트럼프 대통령과 시진핑 중국 국가주석의 회담을 앞두고 이 같은 구상을 발표했다고 보도했다.
미국·중국 AI 안전경보 구상
베선트 장관에 따르면 양국이 제안에 합의할 경우 미국이나 중국의 AI 시스템이 위협을 일으키거나 예측하기 어려운 방식으로 작동할 때 상대국에 경보를 보낼 수 있는 소통 창구가 마련된다. 이 채널은 양국이 AI 안전과 관련한 ‘공통 목표에 대한 비전’을 공유하는 통로로도 활용될 수 있다는 설명이다. 다만 중국이 이 구상에 참여하기로 했다는 발표는 나오지 않았다.
구상은 트럼프 행정부가 중국의 AI 역량을 제한하려는 정책을 이어가는 상황에서 나왔다. 미국은 중국의 AI 발전에 필요한 기술 접근을 막기 위한 수출 통제를 강화했고, 미 의회에서는 중국의 반도체와 하드웨어 접근을 추가로 차단하는 법안이 논의되고 있다. 미 법무부가 2주 전 중국 주요 AI 기업 6곳을 미국 프런티어 AI 연구소의 기술을 훔친 혐의로 지목한 일도 양국 긴장을 키웠으며, 중국은 이를 강하게 부인했다. 이런 상황에서도 중국은 회담에 참석할 것으로 보이지만, 트럼프 대통령은 미국이 AI에서 중국을 반드시 앞서야 한다는 취지의 글을 소셜미디어에 올렸다.
기술 전문성 부재가 한계로 지적
폴리티코에 계획을 설명한 관계자들은 안전경보를 분석·감시할 기술 전문 관료가 포함되지 않아 구상이 피상적일 수 있다고 지적했다. 위험 관련 통신이 접수돼도 그 긴급성과 기술적 의미를 판단할 전문가 조직이 없다는 것이다. 조지타운대 안보·신흥기술센터의 샘 브레스닉 연구원은 기존 소통 채널을 활용하는 점은 새 창구를 만드는 것보다 낫지만, 양국 기술 전문가가 참여해야 군사적 위험을 포함한 고위험 사안을 깊이 있게 논의할 수 있다고 말했다. 그는 이번 구상이 “없는 것보다는 낫지만 큰 변화를 만들 것이라는 확신은 낮다”고 평가했다.
옴디아의 수 리안 제이 수석 애널리스트는 안전경보가 투명성을 높이는 데 도움을 줄 수 있지만, 양국의 경계심을 없애지는 못할 것이라고 말했다. 모델 증류, 가격 경쟁, 기술 개발 속도를 둘러싼 우려와 차이는 계속될 수 있다는 설명이다. 제이는 제도를 실효성 있게 만들려면 위험 등급, 통보 기준, 대응 절차, 정기 검토 방식을 양국이 합의해야 한다고 덧붙였다. 로 칸나 미국 하원의원도 단순한 연락망을 넘어 자기개선형 AI의 반복적 자기개선 금지와 AI를 이용한 생물·핵무기 악용 방지책까지 논의해야 한다고 주장했다.
향후 트럼프 대통령과 시 주석의 회담에서 AI가 주요 의제로 다뤄질지는 분명하지 않다. 다만 양국은 11월에도 추가 회의를 열 예정인 것으로 전해졌다. 스탠퍼드 디지털경제연구소의 앨빈 왕 그레일린 전략가는 후속 회의가 잡혔다는 사실 자체가 양국이 대화의 가치를 인정하고 있음을 보여준다고 말했다. 그는 해커나 테러리스트가 AI를 이용해 기반시설을 공격하는 위험처럼 미국과 중국이 공통으로 직면한 문제부터 협력할 수 있다고 설명했다. 중국이 AI 모델을 정기적으로 감사해온 만큼, 미국이 최근 모델 감사를 시작한 상황에서 중국의 수백 건 감사 경험을 공유할 여지도 있다고 덧붙였다.