美 학교서 AI가 과자 봉지를 총기로 오인…경보 취소 뒤에도 경찰 출동, 학생 4명 소송

교장이 최초 경보 화면 전달…학생들, 손해배상과 절차 개선 전까지 AI 사용 중단 청구

학교 외벽의 방범카메라와 콘크리트 턱 위 파란 과자 봉지. 뒤편 출입문에 붉은빛과 푸른빛이 비친다.
미국 메릴랜드주 고등학교에서 AI 총기 감지 시스템이 과자 봉지를 총기로 잘못 감지한 사건을 표현한 생성 삽화.
핵심 요약 AI 요약
1
과자 봉지 오인:옴닐러트의 AI 총기 감지 시스템은 학생이 든 도리토스 봉지를 신뢰도 90%로 총기라고 분류했다.
2
경보 취소 후 출동:학교와 경찰의 안전 담당자가 약 2분 만에 경보를 취소했지만, 교장이 최초 경보 화면을 학교 담당 경찰관에게 전달하면서 관할 경찰서가 출동을 지시했다.
3
학생 4명 소송:총을 꺼내 든 경찰관들에게 수갑을 채우고 수색당한 학생 4명은 업체와 학교·경찰 관계자 등을 상대로 손해배상과 시스템 사용 중단을 청구했다.
4
경찰 통보 1% 미만:감찰국 조사에서 업체 검토를 거쳐 교육구에 전달된 경보 중 경찰 통보가 필요했던 비율은 1% 미만이었지만, 이 수치만으로 AI의 오분류율을 판단할 수는 없다.
5
2단계 검토 권고:감찰국은 교육구가 경보를 먼저 검토해 대응이 필요한 경우에만 경찰에 통보하고 학교 관리자와 경찰을 연 2회 교육하도록 권고했다.

미국 메릴랜드주의 한 고등학교에서 인공지능(AI) 총기 감지 시스템이 도리토스(Doritos, 옥수수 스낵) 봉지를 총기로 오인했다. 학교와 경찰의 안전 담당자들은 약 2분 만에 경보를 취소했다. 하지만 교장이 최초 경보 화면을 학교 담당 경찰관에게 보냈고, 관할 경찰서가 출동을 지시했다. 총을 꺼내 든 경찰관들에게 제압된 학생 4명은 사건이 발생한 지 1년여 만인 11월 17일 소송을 냈다.

영국 일간 가디언은 11월 18일(현지 시각) “고등학교 재학생과 졸업생 4명이 AI 총기 감지 업체와 학교·경찰 관계자 등을 상대로 위법한 구금과 수색에 대한 책임을 묻는 소송(Allen, et al. v. Omnilert, et al.)을 냈다”고 보도했다. 소장은 메릴랜드주 볼티모어 카운티 순회법원(Circuit Court for Baltimore County)에 접수됐다.

피고에는 총기 감지 시스템을 운영하는 옴닐러트(Omnilert), 볼티모어 카운티와 교육위원회, 학교안전 책임자, 교장, 현장에 출동한 경찰관들이 포함됐다. 옴닐러트는 방범카메라 영상에서 총기로 의심되는 물체를 감지해 경보를 보내는 미국 보안기술 업체다.

경보는 약 2분 만에 취소…15분 뒤 출동 지시

2025년 10월 20일 오후 6시 30분쯤 켄우드 고등학교(Kenwood High School) 미식축구부 학생 4명은 훈련을 마치고 학교 밖에서 귀가 차량을 기다리고 있었다. 소장에 따르면 당시 16세였던 타키 앨런(Taki Allen)은 코치가 나눠준 도리토스를 먹고 있었다. 옴닐러트의 AI는 앨런의 손에 들린 과자 봉지를 신뢰도 90%로 총기로 분류했다. 업체 직원은 영상을 검토한 뒤 학교와 경찰 관계자에게 경보를 전달했다.

전자접수 소장에 따르면 최초 경보를 받은 15명 모두에게 취소 문자가 발송됐다. 경찰 출동은 교장이 최초 경보 화면을 별도로 전달하면서 이뤄졌다.

2025년 10월 20일경보에서 경찰 출동까지
오후 7시 4분 직전AI가 과자 봉지를 총기로 표시했다. 옴닐러트 직원이 영상을 검토한 뒤 경보를 보냈다.
오후 7시 5~6분학교와 경찰의 안전 담당자가 오경보로 판단했다. 최초 경보 수신자 15명에게 취소 문자가 발송됐다.
오후 7시 17~19분교장이 최초 경보를 열어봤다. 학교 담당 경찰관에게 화면을 보냈고, 경찰관은 이를 관할 경찰서에 전달했다.
오후 7시 21분관할 경찰서가 무기를 든 것으로 의심되는 사람이 있다는 신고를 받고 출동을 지시했다.

캐서린 스미스(Catherine Smith) 교장은 메릴랜드주 교육감찰국 조사에서 휴대전화로 영상을 멈추고 확대해 무기가 보이는지 살폈다고 설명했다. 교육구 안전 담당자에게 전화했으나 연결되지 않아 학교 담당 경찰관에게 연락했다고 했다. 교장은 경찰이 현장 확인을 마쳤다는 말을 들은 뒤에야 경보 취소 사실을 확인했다고 밝혔다.

원고들은 현장에 순찰차가 최소 6대 도착했다고 밝혔다. 경찰관들은 총을 꺼내 든 채 학생들을 무릎 꿇리고 수갑을 채운 뒤 수색했다. 소장에 따르면 경찰은 수색을 마친 뒤에야 학생들에게 AI 경보 때문에 출동했다고 설명했다. 총기는 발견되지 않았다. 앨런은 사건 이후 방과 후 학교 밖에서 기다리는 일을 피하고, 가족이나 친구를 기다리는 대신 돈을 내고 차량을 호출하는 경우가 잦아졌다고 소장에 적었다.

경보에 나온 학생은 한 명…경찰은 네 명 모두 수색

원고들은 출동 경찰관들이 불합리한 수색과 신체 구속을 금지하는 미국 연방 수정헌법 제4조를 위반했다고 주장했다. 최초 경보에 나온 학생은 앨런 한 명이었다. 원고들은 경찰이 함께 있던 학생 세 명에게도 수갑을 채우고 수색할 만한 개별 근거가 없었다고 주장했다.

옴닐러트에는 과실 책임을 물었다. 원고들은 업체 직원이 영상을 충분히 검토하지 않고 경보를 보냈다고 주장했다. 경보가 취소됐다는 사실을 수신자가 쉽게 확인할 수 있도록 시스템을 설계할 책임도 있었다고 소장에 적었다.

원고들은 법원에 손해배상과 시스템 사용 중단 명령을 요청했다. 사용 중단 청구 대상에는 옴닐러트와 유사한 AI 총기 감지 시스템도 포함됐다. 원고들은 볼티모어 카운티와 교육구가 경보 검증, 취소 통보, 직원 교육 절차를 마련해 시행할 때까지 시스템을 쓰지 못하게 해 달라고 요청했다. 손해배상액은 배심원이 정해 달라고 했다.

학교에 전달된 경보 중 경찰 통보가 필요했던 건 1% 미만

메릴랜드주 교육감찰국 보고서에 따르면 당시 취소된 경보를 다시 활성화할 권한은 교육구 학교안전 책임자에게 있었다. 그러나 최초 경보를 받은 다른 관계자도 경찰에 직접 전화하거나 문자를 보낼 수 있었다. 감찰국은 휴대전화에서 경보 사진을 확대하거나 영상을 살피는 과정에서 취소 안내를 놓칠 수 있다고 지적했다.

감찰국은 2023년 11월부터 2025년 11월까지의 자료를 분석했다. 옴닐러트는 시스템이 감지한 물체의 96%를 추가 조치가 필요 없는 것으로 걸러냈다. 업체 검토를 거쳐 교육구에 전달된 경보 중 경찰 통보가 필요했던 비율은 1% 미만이었다. 감찰국은 2025년 11월 7일 파크빌 고등학교(Parkville High School)에서도 취소 통보 뒤 경보 전달 절차가 계속됐다고 밝혔다.

감찰국은 교육구가 먼저 경보를 검토하고, 대응이 필요한 경우에만 경찰에 통보하는 2단계 절차를 권고했다. 학교 관리자와 경찰을 대상으로 연 2회 대응 절차를 교육하라는 권고도 보고서에 담겼다.

볼티모어 배너는 11월 18일 “옴닐러트가 소장을 검토 중이며 학생과 가족이 겪은 두려움에 유감을 표했다”고 보도했다. 매체는 또 “볼티모어 카운티 공립학교 관계자들은 인터뷰 요청을 거절했고, 카운티 경찰은 논평을 거절했다”고 전했다.

학생들을 대리하는 미국 시민권변호사위원회(Lawyers’ Committee for Civil Rights Under Law)는 11월 17일 프리다 윈필드(Freida Winfield)의 발언을 공개했다. 윈필드는 경찰이 출동했을 때 아들과 친구들을 데리러 가고 있었다. 그는 “볼티모어 카운티의 어느 아이도 엄마가 데리러 오기를 자기 학교 밖에서 기다리다가 이런 위험에 처해서는 안 된다”고 말했다.

Q&A

Q1. 업체 직원이 이미 확인한 경보를 교육구가 다시 검토한 이유는 무엇인가?

메릴랜드주 교육감찰국 보고서에 따르면 업체 직원은 영상 속 물체가 총기처럼 보이는지 살폈다. 교육구 안전 담당자와 일부 경찰 관계자는 경보를 다시 검토해 실제 대응이 필요한지 판단했다. 교육구가 추가로 검토한 경보는 하루 약 12건이었다.

Q2. 총기를 들었다고 의심받은 학생 옆에 있었다는 이유만으로 수색할 수 있나?

미국 연방대법원은 이바라 대 일리노이 판결(Ybarra v. Illinois, 444 U.S. 85)에서 범죄 혐의가 있는 사람 옆에 있었다는 사정만으로 주변 사람을 수색할 근거가 생기지 않는다고 판단했다. 무기 소지 여부를 확인하는 제한적인 몸수색에도 수색 대상자 자신이 무장해 위험하다고 의심할 구체적인 근거가 필요하다고 봤다.

Q3. ‘경찰 통보가 필요했던 경보 1% 미만’은 AI가 99% 넘게 틀렸다는 뜻인가?

메릴랜드주 교육감찰국이 집계한 것은 업체 검토를 거쳐 교육구에 전달된 경보 중 경찰에 알릴 필요가 있었던 비율이다. 검토 과정에서는 모형 총기나 장난감처럼 총기와 닮았지만 실제 위협은 아니었던 물체도 걸러졌다. AI의 감지 성능을 평가하려면 실제 총기와 총기가 아닌 물체를 시스템이 각각 어떻게 분류했는지 따로 확인해야 한다.

RELATED ARTICLES

RECOMMENDED STORIES