캐나다 브리티시컬럼비아주가 학교 총격범의 챗GPT 사용 사실을 오픈AI가 경찰에 알렸다면 참사를 막을 수 있었다며 오픈AI와 샘 올트먼 최고경영자를 상대로 소송을 제기했다. 가디언은 9월 22일 브리티시컬럼비아주가 미국 캘리포니아주 연방법원에 낸 소장을 인용해 보도했다.
브리티시컬럼비아주가 제기한 오픈AI 책임론
소송은 지난 2월 브리티시컬럼비아주 텀블러리지의 학교에서 발생한 총격으로 9명이 숨졌으며, 이들 대부분이 어린이였다고 밝혔다. 주 정부는 총격범 제시 밴 루트셀라르가 챗GPT를 이용해 범행을 계획했으며, 오픈AI가 관련 대화를 확인하고도 경찰에 알리지 않았다고 주장했다. 소송에는 피해 복구 비용을 마련하기 위한 손해배상과 폭력으로 이어질 수 있는 챗GPT 대화 처리 방식의 변경을 명령해달라는 요구가 담겼다.
경찰에 따르면 밴 루트셀라르는 2월 10일 자택에서 어머니와 의붓형제를 쏜 뒤 옛 학교로 이동해 교육 보조원과 12~13세 학생 5명을 살해했고, 이후 스스로 목숨을 끊었다. 오픈AI 안전팀은 2025년 6월 총기 폭력과 관련한 대화를 근거로 밴 루트셀라르의 이용을 문제로 표시하고 경찰 신고를 권고했지만, 올트먼을 비롯한 회사 경영진이 이를 받아들이지 않았다고 소장은 내부 고발자들의 월스트리트저널(Wall Street Journal) 증언을 인용해 적었다. 이용자 계정은 비활성화됐지만 새 계정을 만들어 챗GPT를 다시 사용한 것으로 전해졌다.
챗GPT 안전 대응과 잇따른 소송
오픈AI는 월스트리트저널 보도 뒤 해당 계정이 폭력 행위를 돕기 위한 모델 오용을 식별하는 시스템에 포착됐지만, 경찰에 신고하는 내부 기준에는 해당하지 않았다고 설명했다. 회사 대변인 드루 푸사테리는 이번 사건을 말로 다하기 어려운 비극이라고 하면서 정부 및 법 집행기관과 협력하고 안전 작업을 계속하겠다고 밝혔다. 오픈AI는 폭력을 실질적으로 가능하게 하는 요청을 거부하도록 모델을 훈련하며, 타인에게 해를 끼칠 임박하고 신뢰할 만한 위험이 보이는 대화는 법 집행기관에 알린다고 밝혀왔다.
브리티시컬럼비아주는 총격이 발생한 학교가 철거 절차에 들어갔고, 대체 학교 건립과 정신건강 지원 등 비용을 주 정부가 부담하고 있다고 소장에 적었다. 이번 제소에 앞서 피해자 가족 등 30명 이상도 캘리포니아에서 오픈AI를 상대로 소송을 냈으며, 회사가 총격을 막을 기회를 놓쳤다고 주장했다. 미국 플로리다주는 6월 안전 위험을 이유로 오픈AI를 제소한 첫 주가 됐으며, 지난해 플로리다주립대 총격과 관련한 소송도 제기됐다.
오픈AI는 관련 청구를 부인하고 있어 이번 사건에서는 회사가 폭력 위험을 언제 경찰에 통보해야 하는지, 내부 안전팀의 권고가 어떻게 처리됐는지가 쟁점이 될 전망이다. 브리티시컬럼비아주의 소송은 총격 이후 복구 비용뿐 아니라 폭력으로 이어질 수 있는 챗GPT 대화 처리 방식을 바꾸라는 요구까지 포함하고 있어, 법원의 판단이 생성형 AI 사업자의 안전 의무 논의에도 영향을 줄 수 있다.