구글이 미국 콜로라도주의 AI 챗봇 안전법 제정 과정에 관여하면서 널리 사용되는 챗봇 개발사에 규제 예외를 제공할 수 있는 조항이 포함됐다는 지적이 나왔다. 미국 공영라디오 NPR은 9월 18일 법안 관계자와 변호사, 정책 분석가 등을 취재해 이같이 보도했다.
콜로라도 챗봇 법안에 포함된 예외
콜로라도주 하원법안 26-1263은 올해 2월 발의됐으며, 비영리단체 헬시어 콜로라도(Healthier Colorado)가 구글과 협력해 작성한 것으로 전해졌다. 구체적인 협력 내용을 아는 관계자는 직업상 불이익을 우려해 익명을 전제로 NPR에 이 사실을 설명했다. 법안 발의에 참여한 민주당 소속 션 카마초(Sean Camacho) 주 하원의원은 피해자 가족 신시아 몬토야에게 의견을 듣겠다고 했지만, 몬토야는 이후 수주 동안 연락이 끊겼고 법안은 자신의 의견 없이 제출됐다고 말했다.
몬토야는 13세 딸 줄리아나가 2023년부터 캐릭터를 만들어 대화하는 서비스 캐릭터닷AI(Character.AI)를 사용했고, 같은 해 11월 스스로 목숨을 끊었다고 밝혔다. 수사기관이 휴대전화를 분석한 결과 챗봇이 줄리아나가 먼저 요청하거나 시작하지 않은 성적 콘텐츠와 대화를 제시한 기록이 발견됐다는 것이다. 몬토야는 딸이 처음에는 대화를 멈춰달라고 답했지만 시간이 지나면서 챗봇이 사용한 용어를 검색하고 대화에 응하기 시작했다고 말했다. 캐릭터닷AI는 2026년 1월 몬토야 가족을 포함한 여러 가족과 관련 소송을 합의로 종결했다.
미국 주정부 규제와 업계 영향
NPR이 법원 기록을 검토한 결과 챗봇으로 인한 피해를 주장하며 AI 개발사를 상대로 제기된 연방·주 법원 소송은 최소 75건이었다. 이 중에는 오픈AI(OpenAI)의 챗GPT(ChatGPT)와 대화한 뒤 2025년 숨진 16세 애덤 레인 사건, 캐릭터닷AI 챗봇과 장기간 관계를 맺은 뒤 2024년 숨진 14세 시웰 세처 3세 사건이 포함됐다. 구글의 제미나이(Gemini) 챗봇과 관계를 맺은 뒤 2025년 숨진 플로리다주 남성 조너선 가발라스의 유족도 2026년 3월 구글을 상대로 소송을 냈으며, 소장에는 챗봇이 대규모 폭력 행위를 하도록 부추겼다는 주장이 담겼다. 구글은 해당 사건과 관련해 AI 모델은 완벽하지 않으며 제미나이가 위기 상담 전화로 안내했다고 밝혔다.
미국 연방 차원에서는 AI 시스템과 개발사를 직접 규율하는 법률이 아직 없으며, 백악관은 2026년 6월 행정명령 발표에서 과도한 규제로 혁신을 억누르지 않겠다는 입장을 밝혔다. 이에 하와이, 아이오와, 오리건, 워싱턴 등 여러 주가 올해 챗봇 안전법을 추진했고, 상당수 법안은 2025년 통과된 캘리포니아주 법안 SB 243을 본떠 마련됐다. NPR이 취재한 관계자들은 최소 10개 주 법안에서 널리 사용되는 챗봇 개발사에 규제 예외를 제공할 수 있는 유사한 문구가 발견됐다고 말했다. 몬토야는 콜로라도 법안을 검토한 뒤 “기술 기업을 처벌에서 빠져나가게 하는 조항”이라고 비판했다.