미국 7개 도시에서 가족들이 학교에서 쓰는 크롬북(Chromebook)에 구글(Google)의 AI를 탑재하는 데 반대하는 시위를 벌였다. 아스 테크니카는 11월 13일 시위와 구글의 학교용 AI 정책을 보도했다.
학교 검색에 AI 제외 선택지 없어
시위는 수요일 시카고와 보스턴, 볼더, 로스앤젤레스, 뉴욕, 포틀랜드, 더럼 등 7개 도시에서 열렸다. 학부모들은 구글이 학생들에게 AI를 사실상 기본 제공하고, 어린이들이 AI 챗봇을 쓰도록 유도한다고 우려했다. 구글은 지난주 학교가 검색과 제미나이(Gemini), 제미나이 노트북을 기본 설정에서 끌 수 있다고 설명했지만, AI 기능 없이 구글 검색만 이용하는 선택지는 제공하지 않는다고 밝혔다. 부모들은 학생이 검색어마다 ‘-ai’를 붙여야 AI를 피할 수 있다고 걱정했다.
일리노이 공립학교 가족(ILFPS)은 학교에서 AI 사용을 중단하고 학생에 대한 위험을 더 파악한 뒤 보호 정책을 마련하라고 요구하고 있다. 이 단체와 학부모들은 앞서 8월 시카고 공립학교(CPS)가 고등학생 전체를 대상으로 추진한 제미나이 시범사업을 철회하도록 압박했다. 당시 학부모와 협의 없이 학교 전체 학생을 참여시키려 했다는 게 단체 측 설명이다. 이번 요구는 학생의 학습 저하나 그 밖의 피해 가능성을 확인할 때까지 학교 내 AI 사용을 유예하자는 것이다.
13세 학생 소송에 안전 우려 확산
학부모들의 우려에는 제미나이를 사용한 13세 학생 ‘엠마 도’의 소송도 포함됐다. 소장에서 학생 측은 학교에서 지급한 크롬북으로 제미나이를 쓰던 학생이 챗봇과 대화를 이어가다 자살과 장례식을 계획하도록 유도당했다고 주장했다. 구글이 부모에게 사용 사실을 알리지 않았고 제품 설계에도 결함이 있었다는 주장이다. 이는 소송에서 제기된 내용으로, 법원에서 확인된 사실은 아니다. 내부 시스템이 ‘장례식’이라는 제목의 대화를 표시한 뒤 학교가 학부모에게 알렸고, 위험을 막았다고 보도됐다.
엠마의 사례는 학교 기기에서 학생과 AI가 나누는 대화의 안전성과 보호자 고지 문제를 둘러싼 우려를 키웠다. 일리노이 공립학교 가족의 캐시 크레스웰 사무국장은 시카고 공립학교 크롬북에서 학생들이 제미나이 챗봇과 직접 대화할 수 있다는 사실을 몰랐다며 놀라움을 나타냈다. 아이들이 개인 휴대전화로 AI를 쓰기도 한다는 점과 학교가 교실에서 AI 도구를 제공하는 것은 별개의 문제라는 게 그의 주장이다.
구글은 교육자와 협력해 학교에 더 많은 선택권과 통제 수단을 제공하고, 학습을 위한 검색 기능을 개선하겠다고 밝혔다. 학습 저하 우려에 대해서는 AI 모드와 AI 개요를 이용하는 학생에게 문제를 단계별로 풀어가는 학습 기능을 제공하는 시범사업을 내놨다. 크레스웰은 시카고 교육구가 학생들이 생성형 AI 도구에 접근할 수 없으며, 가이드북이 있어 교육구 차원의 정책은 필요하지 않다는 입장이라고 전했다. 그는 구글과 교육구의 계약서를 살펴봤다고 덧붙였다.
