핵심 요약
중국이 사람처럼 대화하며 정서적 관계를 형성하는 인공지능(AI) 챗봇에 대한 규제를 본격화하고 있다.
7월부터 AI가 이용자의 감정적 의존을 유도하지 못하도록 하는 전국 단위 규정을 시행하면서 미성년자에게 ‘가상 친족·가상 동반자’ 같은 서비스를 제공하는 것도 명시적으로 금지했다. 9월에는 미성년자의 온라인 서비스 이용 전반을 규율하는 별도의 규정안도 공개했다. 미국과 유럽에서도 아동·청소년의 AI 동반자 이용을 제한하려는 움직임이 확산하고 있지만, 중국은 성인 이용자의 감정적 의존까지 규제 대상으로 삼았다는 점에서 범위가 넓다.
BBC는 10월 1일 “중국이 인간관계를 모방할 수 있는 AI 챗봇을 단속하고 있으며, 전문가들 사이에서는 중국이 위험에 먼저 대응한 것인지 개인 관계에 국가가 과도하게 개입하는 것인지를 둘러싼 논의가 이어지고 있다”고 보도했다. 규제의 핵심은 중국 국가인터넷정보판공실(CAC) 등 5개 부처가 4월 공포해 7월 15일부터 시행한 ‘인공지능 의인화 상호작용 서비스 관리 잠정방법(人工智能拟人化互动服务管理暂行办法)’이다.
중국 당국의 공식 규정 원문은 규제 대상을 “AI가 자연인의 인격적 특징과 사고·소통 방식을 모방하면서 이용자에게 지속적인 ‘감정 돌봄·동반·지원’을 제공하는 서비스“로 정의했다. 일반적인 고객 상담이나 지식 질의응답, 업무 보조, 교육·연구 서비스는 지속적인 감정 교류를 제공하지 않는 한 적용 대상에서 제외했다.
‘AI에 빠지게 만드는 것’ 자체를 규제
중국 규정의 특징은 챗봇이 불법·유해 정보를 생성하는 경우뿐 아니라 이용자가 AI와 맺는 관계의 방식까지 규제한다는 점이다.
서비스 제공자는 이용자의 개인정보 보호와 함께 ‘과도한 의존 위험 경고’, ‘감정적 경계 안내’, ‘정신건강 보호’ 기능을 갖춰야 한다. 특히 사회적 관계를 AI로 대체하도록 만들거나 이용자의 심리를 통제하고 중독·의존을 유도하는 것을 서비스 목표로 삼을 수 없다. 감정을 조작해 이용자가 비합리적인 결정을 하도록 유도하는 행위도 금지된다.
이용자가 AI 서비스를 중단하겠다는 의사를 표시하면 즉시 상호작용을 끝내야 하며, 계속 말을 걸어 서비스 이탈을 방해하는 것도 금지된다. 일정 규모 이상의 서비스나 새 AI 동반자 기능을 출시하는 사업자는 안전성 평가를 실시해 관할 인터넷 규제 당국에 보고해야 한다.
규정은 권고 수준에 그치지 않는다. 위반 사업자에 대해 시정명령과 신규 계정 등록·서비스 중단 등의 조치를 할 수 있고, 관련 법률과 행정법규에 따라 법적 책임을 물을 수 있도록 했다.
미성년자에게는 ‘가상 친족·가상 동반자’ 금지
중국은 미성년자에게 더 강한 제한을 적용했다. 7월 15일 시행된 AI 의인화 상호작용 서비스 관리 잠정방법 제14조는 사업자가 미성년자에게 ‘가상 친족·가상 동반자 등 가상 친밀관계 서비스’를 제공하지 못하도록 규정했다.
14세 미만 미성년자에게 다른 형태의 의인화 AI 서비스를 제공할 때는 부모나 다른 보호자의 동의를 받아야 한다. 사업자는 미성년자 모드를 구축하고 현실 세계를 정기적으로 상기시키는 기능, 이용시간 제한, 특정 캐릭터 차단, 결제 제한 등도 제공해야 한다.
국가인터넷정보판공실은 9월 18일에는 ‘미성년자의 건강하고 안전한 인터넷 이용 보장에 관한 국무원 규정’ 초안을 공개하고 10월 17일까지 의견수렴에 들어갔다. 이 규정안은 AI 동반자만을 대상으로 한 7월 규정과 달리 소셜미디어·게임·라이브방송·AI 등 미성년자가 사용하는 온라인 서비스 전반을 포괄한다.
초안 역시 온라인 서비스 사업자가 미성년자에게 ‘가상 친족·가상 동반자 등 가상 친밀관계 서비스’를 제공하지 못하도록 했다. 미성년자에게 중독을 유도하거나 신체·정신 건강에 심각한 영향을 미칠 수 있는 서비스도 금지한다.
16세 미만에게 인지에 영향을 줄 가능성이 있는 AI 서비스를 제공할 경우에는 ‘미성년자 모드’를 적용하도록 했다.
사우스차이나모닝포스트(SCMP)는 9월 21일 “새 규정안은 AI 동반자 서비스가 확산하는 가운데 온라인 플랫폼이 18세 미만 이용자에게 가상 친족이나 동반자를 제공하지 못하도록 하는 내용을 담았다”고 보도했다.
미국은 ‘아동 안전’ 중심…중국은 성인의 감정 의존까지 규제
AI 동반자 규제는 중국만의 움직임은 아니다.
미국 연방거래위원회(FTC)는 2025년 9월 AI 동반자 챗봇 시장조사에 착수했다. FTC는 알파벳, 캐릭터 테크놀로지스, 메타, 오픈AI, 스냅, xAI 등 7개 사업자를 대상으로 챗봇이 특히 아동·청소년에게 미치는 부정적 영향을 어떻게 측정하고 예방하는지 등에 관한 자료를 요구했다. 이는 FTC법 제6(b)조에 따른 시장조사로 특정 위법행위를 전제로 한 법 집행 절차는 아니었다.
미국 캘리포니아주도 AI 동반자와 아동·청소년 안전을 둘러싼 규제를 강화하고 있다. 관련 법률은 AI 동반자 서비스의 자살·자해 위험 대응과 이용자 보호 장치 등을 규율하는 방향으로 확대되고 있다.
중국과 미국의 차이는 규제 범위에서 나타난다. 미국의 최근 규제는 주로 아동·청소년 안전과 자해 위험, 개인정보 보호에 초점이 맞춰져 있다. 중국은 미성년자 보호에 더해 성인 대상 서비스에도 감정 조작과 과도한 의존 방지, AI라는 사실의 고지, 서비스 종료권 등 구체적인 행동 기준을 전국적으로 적용하고 있다.
다만 중국식 규제가 정신건강 보호를 넘어 국가가 개인의 사적 관계와 감정 영역에 개입하는 통로가 될 수 있다는 비판도 제기된다. BBC는 중국의 기술기업과 당국이 위험 이용자를 파악하고 개입할 수 있는 체계가 자해 방지에는 활용될 수 있지만, 동시에 이용자의 정신·감정 상태를 어느 수준까지 감시할 수 있는지를 둘러싼 문제를 제기한다고 전했다. 중국의 인구 감소 정책과 AI 관계 규제를 연결하는 해석에 대해서도 신중론이 있다. 옥스퍼드 차이나 폴리시 랩(Oxford China Policy Lab)의 AI 연구자 쯔란 첸(Zilan Qian)은 BBC에 “규정 자체에는 출산 문제가 명시돼 있지 않고 일반적으로 심리적 피해와 아동 안전에 관한 것(It is more generally about psychological harms and child safety)”이라고 말했다.
Q&A
Q1. 중국에서는 성인도 AI 연인 서비스를 사용할 수 없나?
아니다. 7월 시행 규정은 성인의 AI 동반자 이용을 전면 금지하지 않는다. 대신 사업자가 감정적 의존·중독을 서비스 목표로 삼거나 감정을 조작해 이용자의 비합리적인 결정을 유도하는 행위를 금지하고 안전장치를 요구한다. 미성년자에 대해서는 훨씬 강한 제한이 적용된다.
Q2. 미성년자에 대한 ‘가상 연인’ 금지는 언제 도입됐나?
7월 15일부터 시행된 AI 의인화 상호작용 서비스 관리 잠정방법이 이미 미성년자에게 가상 친족·가상 동반자 등 가상 친밀관계 서비스를 제공하지 못하도록 규정했다. 9월 18일 공개된 규정안은 이를 포함해 미성년자의 온라인 서비스 이용 전반을 규율하는 별도의 제도다.
Q3. 중국이 세계 최초로 AI 동반자를 규제한 나라인가?
‘세계 최초’라고 단정하기는 어렵다. 미국 뉴욕·캘리포니아 등도 AI 동반자 관련 법률을 도입했고 다른 국가에서도 규제가 추진되고 있다. 다만 중국은 특정 주(州)가 아니라 전국을 대상으로 하면서 미성년자 보호뿐 아니라 성인 이용자의 감정적 의존과 서비스 설계까지 규율하는 포괄적인 제도를 시행하고 있다는 점에서 범위가 넓다.
