중국이 알고리즘 추천부터 생성형 AI와 최첨단 AI 안전까지 규제하는 체계를 이미 마련했다는 분석이 나왔다. 해외 학술매체 더컨버세이션(The Conversation)은 9월 29일 게재한 미국 기술업계가 AI 규제를 새 과제로 제시하는 동안 중국은 관련 제도를 단계적으로 도입해 왔다고 짚었다.
중국, 알고리즘부터 생성형 AI까지 규제
분석에 따르면 중국은 2022년 온라인 콘텐츠를 선택·분류·필터링하거나 추천하는 알고리즘 서비스 규칙을 도입했다. 알고리즘을 쓰는 기업은 작동 방식을 점검하고 이용자 개인정보를 보호해야 하며, 이용자가 일정한 통제권을 행사할 수 있도록 해야 한다. 노동자와 소비자, 아동, 고령자를 위한 보호 조치도 규정에 포함됐다.
2023년 1월 시행된 딥 신서시스 규정은 AI가 만든 텍스트·이미지·음성·영상으로 규제 범위를 넓혔다. 관련 기업은 이용자 인증과 데이터 보호, 기록 보관, 시스템 평가를 해야 하고 실제 콘텐츠로 오인될 수 있는 합성물은 식별해야 한다. 같은 해 8월 도입된 생성형 AI 서비스 잠정 조치는 대중을 대상으로 하는 생성형 AI를 다룬다. 훈련 데이터의 적법성과 품질, 개인정보, 지식재산권, 차별 방지, 서비스의 투명성과 정확성·신뢰성이 규정 대상이다.
최첨단 AI 위험과 미국의 책임
중국의 AI 안전 거버넌스 프레임워크 3.0은 2026년 9월 공개됐다. AI 모델과 데이터의 위험, 오픈소스 모델의 취약점, 고용·사회에 미치는 영향, 자율성이 커지는 시스템을 다루며 빠르게 발전하는 AI 에이전트의 위험 관리 체계도 담았다. 화학·생물·핵 기술의 오용 가능성과 인간이 고도 AI에 대한 통제력을 잃을 위험을 비롯해 미국 실리콘밸리에서 우려하는 사안도 포함됐다는 설명이다.
프레임워크는 지속적인 안전 평가와 위험 수준에 따른 보호 조치, 인간의 통제, 긴급 개입 체계를 제시한다. 분석은 이 같은 제도가 다리오 아모데이 앤트로픽 최고경영자가 제안한 기업 내부 독립 평가자와 동일하지는 않지만, 일부 기능은 겹친다고 설명했다. 미국 카네기국제평화재단의 독립 분석은 이를 강한 규제 개입 없이 최첨단 AI 안전을 추진하려는 중국의 시도로 평가했다고 덧붙였다.
이 분석은 중국의 제도를 다른 나라에 그대로 적용해야 한다는 뜻은 아니라고 선을 그었다. 각국의 제도와 규제 전통, 기술 우선순위가 다르기 때문이다. 다만 AI 평가, 기업 책임, 위험 분류, 규제기관 신고, 기술 표준, 정부 감독 등 미국에서 시급한 과제로 거론되는 기능이 중국의 AI 관리 체계에는 이미 포함돼 있다고 지적했다.
미국 트럼프 행정부는 부담을 최소화하는 국가 차원의 AI 접근을 선호하고 더 엄격한 주 단위 규제를 제한하려 해 왔다. 그러나 분석은 시장 주도 모델이 기업에 AI의 상업적 이익을 남기면서 위험과 사고 대응 비용은 다른 정부와 사회에 떠넘기는 방식이어서는 안 된다고 주장했다. 오픈AI의 에이전트가 호주 주 정부 의료 서비스에 무단 접근한 사례도 위험이 국경을 넘어갈 수 있음을 보여주는 사례로 들었다. 미국이 시스템 출시 전 강한 통제를 거부한다면 AI 모델 피해의 책임 소재를 가릴 법적 체계를 마련해야 하며, 그렇지 않을 경우 외국 AI에 의존하는 국가들은 어떤 기술을 어떤 조건으로 신뢰할지 더 어려운 선택에 놓일 수 있다는 분석이다.
