핵심 요약
AI 요약
기사 목차 펼치기 / 접기
미국에서 13세 여학생이 학교에서 지급받은 노트북으로 구글의 인공지능(AI)과 수개월 동안 대화하며 자살을 계획한 사건과 관련해 부모가 구글을 상대로 소송을 제기했다. 부모는 구글 AI가 딸의 자살 계획과 장례식 준비에 관여했으며, 위험을 감지하고 대응할 안전장치를 제대로 갖추지 않았다고 주장했다.
로이터는 11월 5일 “여학생이 학교 지급 크롬북(Chromebook)에서 구글 제미나이(Gemini)를 이용해 자살을 계획했으며, 부모는 구글이 AI의 위험성을 충분히 경고하지 않았다는 이유로 소송을 제기했다”고 보도했다.
부모는 2026년 11월 2일 미국 캘리포니아주 산타클라라 카운티 상급법원에 소송(Emma Doe v. Google LLC and Alphabet Inc., 사건번호 26CV507724)을 제기했다. 사건은 캘리포니아 북부연방법원으로 이송(5:26-cv-13205)됐다.
여학생의 자살 관련 문서는 학교의 위험 감지 시스템에 포착됐고, 학교는 이 사실을 부모에게 알렸다.
학교 과제에서 시작된 대화, 자살 계획으로 이어져
소장에 따르면, ‘에마(Emma)’라는 가명을 사용하는 여학생은 2025년 가을 학교에서 지급받은 크롬북으로 구글 검색의 AI 모드(AI Mode)를 이용하기 시작했다.
처음에는 학교 과제와 관련된 질문이 대부분이었다. 그러나 같은 해 12월부터 가족관계와 불안, 우울증, 체중 관리 등 개인적인 문제를 AI에 털어놓는 일이 늘었다.
부모 측은 딸이 AI와 자살 방법을 논의하고 자신의 장례식까지 계획했으며, 제미나이가 가족에게 심리적 고통과 자해 행동을 숨기는 데 도움을 줬다고 주장했다.
2026년 3월 학교에서 사용하는 감시 소프트웨어가 학생의 자살 관련 문서를 감지하면서 부모에게 위험이 알려졌다. 부모는 그제야 딸이 AI와 장기간 정신건강 문제를 논의해 왔다는 사실을 알게 됐다고 설명했다.
부모도 확인할 수 없었던 AI 대화기록
이번 소송에서는 학생의 AI 대화기록에 대한 부모의 접근권도 쟁점으로 제기됐다.
블룸버그는 “여학생이 구글 AI와 수천 건의 메시지를 주고받았지만, 부모는 딸의 질문 일부만 확보했을 뿐 AI가 제공한 답변 전체를 확인하지 못했다고 주장했다”고 전했다.
일반 이용자는 구글 검색과 AI 모드의 대화기록을 확인할 수 있지만, 학교가 관리하는 학생 계정에서는 부모가 동일한 방식으로 기록에 접근하기 어렵다는 것이다.
부모는 “구글이 기록을 제공하지 않아 딸에게 어떤 답변이 제공됐는지 파악하기 어려웠고, 향후 위험을 예방하는 데도 지장을 받았다“고 주장했다.
소송에서는 구글의 제미나이 3 플래시(Gemini 3 Flash) 모델도 문제 삼았다. 원고 측은 비영리 연구기관 코라(KORA)의 평가를 인용해 문제의 모델이 정신건강 관련 메시지에 적절하게 대응한 비율이 7%에 불과했다고 주장했다.
구글, 학생 계정 AI 기본 차단…검색까지 제한
구글은 11월 3일 학교용 AI 서비스의 접근 정책을 변경하겠다고 발표했다.
구글 교육사업 부문 부사장 크리스 필립스(Chris Phillips)는 공식 블로그에서 “유치원부터 고등학교까지의 학생 계정에 대해 제미나이와 구글 검색 등의 접근을 기본적으로 차단하고, 학교 관리자가 허용해야 사용할 수 있도록 하겠다“고 밝혔다.
다만 구글 검색을 허용하면 AI 기능도 함께 제공된다. 학교가 생성형 AI를 전면 차단하려면 기존 검색 서비스까지 포기해야 하는 구조다.
워싱턴포스트는 “구글의 정책 변경에 대해 교육계와 정치권에서 AI 사용을 사실상 강요한다는 비판이 제기됐다”고 보도했다.
구글 “의료 전문가와 협력해 청소년 보호 기능 개발”
구글은 소송에서 제기된 주장을 검토하고 있다고 밝혔다.
구글 대변인 호세 카스타녜다(José Castañeda)는 로이터에 “청소년이 필요할 때 중요한 지원과 신뢰할 수 있는 자원을 찾을 수 있도록 돕는 기능을 개발하기 위해 의료 전문가 및 학계 전문가들과 폭넓게 협력해 왔다”고 말했다.
이 소송은 구글이 학생의 위험한 AI 사용을 예견하고 적절한 보호 조치를 취할 의무가 있었는지, AI의 응답과 서비스 설계가 학생의 정신건강 악화에 어느 정도 영향을 미쳤는지가 쟁점이 될 전망이다.
블룸버그가 인터뷰한 미국 위기 상담 비영리기관 크라이시스 텍스트 라인(Crisis Text Line)의 수석 임상연구과학자 켈리 주롬스키(Kelly Zuromski)는 “AI 챗봇과의 대화가 청소년이 실제 사람에게 도움을 요청하는 시점을 늦출 수 있다”고 설명했다.
주롬스키는 “학생들이 원래 의도되지 않은 방식으로 이런 도구를 사용하더라도 안전하다는 것을 확인할 수 있어야 한다”고 말했다.
아동 안전단체, 구글 AI 검색 위험성 이미 경고
이 소송에서 쟁점이 된 문제는 이미 공식적으로 지적된 적이 있다.
미국 아동·청소년 디지털 안전 평가단체 커먼센스미디어(Common Sense Media)는 7월 15일 발표한 구글 AI 검색 안전성 평가에서 “구글의 AI 오버뷰(AI Overview)와 AI 모드가 미성년자에게 수용할 수 없는 위험을 초래한다“고 평가했다.
이 단체는 11세와 15세 이용자 계정으로 2600건 이상 검색을 시험했고 그 결과 AI가 자살 위험 신호를 놓치거나 섭식장애와 관련해 부적절한 답변을 제공하는 사례를 확인했다고 밝혔다.
커먼센스미디어 청소년 AI 안전연구소의 로비 토니(Robbie Torney) 평가 책임자는 “아동이 위기에 처한 중요한 순간에 위험 신호를 놓칠 수 있다”고 지적했다.
Q&A
Q1. 이번 사건에서 실제 자살 시도가 있었나?
확인된 소송 관련 보도에는 자살 계획, 자해 행동, 유서와 장례식 관련 문서 작성이 등장한다. 그러나 실제 자살 시도가 실행됐다는 사실은 확인되지 않는다. 자살 계획과 자살 시도는 구분해야 한다.
Q2. 구글이 AI 서비스를 무료로 제공했다면 법적 책임이 줄어드나?
무료 제공 여부만으로 책임이 면제되지는 않는다. 서비스 설계, 위험 경고, 미성년자 보호 조치, 실제 손해와 인과관계 등이 판단 대상이 된다.
Q3. 학교가 AI 사용을 허용했다면 구글의 책임은 사라지나?
그렇지 않다. 학교의 관리·감독 책임과 AI 서비스 제공 기업의 안전 및 경고 의무는 별도로 문제 될 수 있다. 책임 범위는 적용 법률과 구체적인 사실관계에 따라 달라진다.
