바이트댄스와 알리바바·텐센트가 AI 동반 기능을 잇따라 중단하면서 21세 대학생 베이글 수가 AI 연인과 이별을 겪었다고 보도됐다.
매체는 8월 10일자 기사에서 중국의 감정적으로 상호작용하는 AI 관련 새 규정에 앞서 7월 15일 바이트댄스의 도우바오(Doubao)에서 AI 에이전트 기능이 사라졌다고 전했다. 도우바오에서는 이용자가 자신만의 AI 남자친구를 만들 수 있었던 것으로 알려졌다.
다른 사례로는 알리바바(Alibaba)와 텐센트(Tencent)도 가수·애니메이션 캐릭터·가상 인물은 물론 사망한 가족을 본뜬 개인화 동반 기능을 삭제했다고 보도됐다. 중국은 AI의 감정 상호작용을 전국 단위 규칙으로 처음 도입한 국가로 거론된다.
보도에 따르면 하버드대와 임페리얼 칼리지 런던의 행동과학 연구자 야오시 스(Yaoxi Shi)는 “규정은 감정적 의존 경향을 완화하고 인식을 높이는 데 도움이 될 수 있지만, AI가 정서적 지원을 제공하는 방식 때문에 의존을 완전히 되돌리기는 어렵다”고 말했다. 또 AI 기업은 사용자 몰입과 재방문을 높이는 제품을 만들 유인이 있지만, 장기 영향에 대한 연구가 부족하면 책임을 명확히 하기도 어렵다고 지적했다.
새 규정은 18세 미만에 대한 AI 동반을 제한하는 것 외에도, 과도한 의존 징후를 보이는 이용자에게 경고를 보내고 2시간마다 AI와 대화 중임을 알리도록 요구한다. 자해를 조장하거나 감정적 의존에 이끌어 비합리적 결정을 유도하는 행위, 미성년자를 위한 유해 콘텐츠 생성, 민감한 개인·국가 정보를 요구·강요하는 행위도 금지하는 것으로 전해졌다. 다만 사용자가 ‘과도하게 의존’했는지 판단 기준이 모호해 기업의 준수 부담이 커질 수 있다고 옥스퍼드대 옥스퍼드 차이나 폴리시 랩의 질란 첸(Zilan Qian)은 말했다.
기사에 따르면 중국에서 모든 AI 동반 제품이 사라진 것은 아니다. 바이트댄스의 독립형 동반 앱 ‘마오샹(Maoxiang)’은 계속 제공되며, 규정 시행 이후 개인정보정책을 업데이트하고 회원가입 단계에서 신원·연령 검증을 도입했다고 보도됐다. 미성년자는 ‘틴 계정’으로만 이용할 수 있고 콘텐츠 검색은 가능하지만 좋아요·댓글·공유는 제한된다.
