핵심 요약
AI 요약
기사 목차 펼치기 / 접기
중국 정부가 인공지능(AI) 개발부터 실제 서비스까지 전 과정을 관리하는 포괄적인 규제 체계 마련에 나섰다. AI 개발기업의 보안 위험 공개와 사고·취약점 신고를 강화하고 알고리즘과 데이터, 컴퓨팅 자원에도 안전 기준을 적용할 방침이다.
블룸버그는 11월 3일 “중국이 강력해지는 AI에 대한 통제력 상실을 방지하기 위해 개발부터 배포까지 적용되는 광범위한 안전 기준을 도입할 계획”이라고 보도했다.
이번 조치는 AI가 사이버 공격에 악용되거나 인간의 통제를 벗어날 수 있다는 국제적 우려가 커지는 가운데 발표됐다. 중국 정부는 안전 규제를 강화하면서도 자국 AI 산업의 성장과 오픈소스 개발을 지원한다는 방침이다.
AI 기본법 추진…보안 사고 신고도 강화
중국 국가발전개혁위원회(National Development and Reform Commission·NDRC)의 왕뤄멍(Wang Ruomeng) 혁신·첨단기술발전국 부국장은 11월 3일 베이징 기자회견에서 “AI 관련 기본적·종합적 입법을 가속하겠다“고 밝혔다.
규제 범위는 AI 모델 개발에 필요한 데이터와 컴퓨팅 자원, 알고리즘부터 실제 활용 분야까지 포함한다. AI의 전체 생애주기에 적용되는 안전 기준과 윤리 지침도 마련할 계획이다.
특히 개발사와 서비스 운영자가 보안 위험을 적시에 공개하고, 사고와 취약점 정보를 당국에 적극 신고하도록 유도할 방침이다.
적용 대상에는 딥시크(DeepSeek), 문샷AI(Moonshot AI), 알리바바(Alibaba) 등 중국의 주요 AI 개발기업이 포함될 것으로 보인다.
다만 이날 발표는 규제 추진 방향을 제시한 것이며 구체적인 법안 조문이나 시행 일정, 신고 의무 위반에 대한 제재 수준까지 확정된 것은 아니다.
기업 부담 줄이기 위해 규제 유예기간 도입
중국 정부는 안전 규제가 AI 개발을 위축시키지 않도록 기업에 합리적인 적응 기간을 제공할 계획이다.
산업별 규제 샌드박스도 추진한다. 규제 샌드박스는 기업이 일정한 조건 아래 새로운 기술과 서비스를 시험할 수 있도록 일부 규제를 유연하게 적용하는 제도다.
당국은 업종별 준법 지침과 평가·인증 서비스를 제공하고, 시행 중인 규정을 정기적으로 검토해 기술 발전에 맞지 않는 조항을 조정하겠다고 밝혔다.
이 같은 방침은 중국이 AI 안전 관리와 산업 경쟁력 확보를 동시에 추진하는 정책 방향과 맞닿아 있다.
딥페이크·일자리 대체·AI 의존 문제까지 관리
중국의 규제 계획은 기술적 보안 위험뿐 아니라 AI가 사회에 미치는 영향도 다룬다.
11월 3일 공개된 중국 국가발전개혁위원회 공식 기자회견 기록에 따르면 왕뤄멍 부국장은 AI 규제의 네 가지 과제로 규범 체계 정비, 규제 환경 개선, 공동 관리 책임 확립, 사회적 영향 대응을 제시했다.
중국 정부는 알고리즘 차별과 딥페이크, 개인정보 유출에 대응하기 위해 AI 악용 행위의 추적 능력을 강화할 계획이다. 미성년자와 노인을 보호하고 AI 중독과 정서적 의존 문제에도 개입하겠다고 밝혔다.
고용 분야에서는 AI에 따른 일자리 대체 위험을 감시하고 사회보장제도를 보완할 방침이다. AI 모델 훈련사와 데이터 주석 작업자 등 새로운 직업을 국가 직업분류 체계에 반영하는 방안도 추진한다.
기존 기술 지침에서 포괄적 법률 체계로 확대
중국은 이미 AI 안전 관리 기준을 단계적으로 마련해 왔다.
중국 국가인터넷정보판공실(Cyberspace Administration of China)은 2023년 생성형 AI 서비스 관리 잠정규정을 시행했다. 이 규정은 일반 이용자에게 제공되는 생성형 AI 서비스의 콘텐츠 안전과 개인정보 보호 등을 다룬다.
이후 중국 국가인터넷안전표준화기술위원회는 2024년부터 AI 안전 거버넌스 체계를 발표했다.
중국 국가인터넷정보판공실에 따르면 9월 14일 발표된 ‘AI 안전 거버넌스 프레임워크 3.0’은 위험 분류를 갱신하고 기술적 대응과 관리 조치를 보완했다.
이번 국가발전개혁위원회의 발표는 이러한 기술 지침과 기존 분야별 규제를 포괄적인 AI 법률 체계로 확대하려는 계획이다.
미·중 AI 안전 협력도 추진
중국은 국내 규제 강화와 별개로 국제적인 AI 안전 협력도 추진하고 있다.
미국 전략국제문제연구소는 9월 21일 보고서에서 미·중 양국이 AI 안전 문제에 관한 공동 정의와 사이버 사고 신고·소통 체계를 마련할 필요가 있다고 제안했다.
중국 정부도 AI 관련 사고와 취약점 정보를 국제적으로 공유하고 위험 대응을 조율하겠다는 입장을 밝혔다.
왕뤄멍 부국장은 11월 3일 기자회견에서 “AI 안전은 어느 한 기업이나 산업, 국가가 독자적으로 해결할 수 있는 문제가 아니라 국제적 협력이 필요한 전 세계의 공동 과제”라고 말했다.
Q&A
Q1. 중국이 추진하는 AI 기본법은 기존 규제와 무엇이 다른가?
기존 규제는 생성형 AI 서비스나 콘텐츠 표시 등 개별 분야를 중심으로 마련됐다. 새 입법 계획은 데이터·컴퓨팅·알고리즘·서비스 운영까지 AI 전체 생애주기를 포괄한다는 점에서 범위가 넓다.
Q2. 중국 AI 기업들은 보안 사고를 의무적으로 신고해야 하나?
중국 정부는 개발사와 운영자가 보안 위험을 공개하고 사고와 취약점을 적극 신고하도록 추진하겠다고 밝혔다. 다만 이번 발표만으로 모든 기업에 새로운 법적 신고 의무가 즉시 발생한 것은 아니다. 구체적인 의무와 제재는 후속 입법에 따라 결정된다.
Q3. 중국이 안전 규제를 강화하면서 오픈소스 AI를 계속 지원하는 이유는 무엇인가?
중국 정부는 AI 안전 확보와 산업 발전을 병행한다는 정책을 제시했다. 오픈소스 개발을 장려하면서도 보안 위험 관리와 사고 신고를 강화하고, 기업 부담을 줄이기 위해 규제 유예기간과 산업별 샌드박스를 도입할 계획이다.
