핵심 요약
AI 요약
기사 목차 펼치기 / 접기
경찰이 인공지능(AI)으로 범죄 발생 가능성을 예측하는 과정에서 과거의 차별적 단속 관행이 반복될 수 있다는 경고가 나왔다. 특정 지역에 대한 집중 단속으로 축적된 경찰 기록을 AI가 학습하고, 이를 근거로 같은 지역을 다시 위험지역으로 분류하는 문제가 핵심이다.
BBC는 10월 25일 “경찰의 AI 활용이 기존의 편향과 차별을 심화시킬 위험이 있으며, 과거 경찰 기록에 포함된 편향이 범죄 예측 시스템을 통해 반복될 수 있다”고 보도했다.
경찰의 AI 기반 예측 치안(Predictive Policing)은 과거 범죄 발생 장소와 시간, 사건 유형 등을 분석해 향후 범죄 발생 가능성이 높은 지역을 찾아내는 기술이다. 경찰은 이를 순찰 인력 배치와 치안 자원 운용에 활용할 수 있다.
문제는 경찰의 단속 기록이 실제 범죄 발생 분포와 일치하지 않을 수 있다는 점이다. 특정 지역에 경찰력이 집중되면 그 지역에서 더 많은 사건이 적발되고 기록된다. AI는 이러한 기록을 학습해 이미 문제가 된 지역을 다시 범죄 위험이 높은 곳으로 분류할 수 있다.
호주 시드니대 로스쿨 디지털 사법 연구자인 캐럴린 맥케이(Carolyn McKay) 부교수는 “경찰의 기존 편향이 학습 데이터에 포함되면 AI가 차별적 판단을 반복할 위험이 있다“고 경고했다. 그는 “학습 데이터의 편향을 점검하고 경찰의 최종 판단에 대한 인간의 감독을 유지해야 한다“고 강조했다.
영국 경찰 33곳, 범죄 예측·위험 평가 시스템 사용
영국 국제앰네스티(Amnesty International UK)는 2025년 2월 20일 발표한 ‘자동화된 인종차별(Automated Racism)’ 보고서에서 영국 경찰 조직 최소 33곳이 범죄 예측이나 위험 평가 기술을 사용한 것으로 조사했다. 이 가운데 32곳은 지역별 범죄 위험을, 11곳은 개인별 위험을 예측하거나 평가하는 도구를 사용한 것으로 파악됐다.
국제앰네스티는 “경찰이 범죄 발생 가능성을 예측하는 과정에서 흑인과 소수인종, 저소득층이 거주하는 지역을 과도하게 감시하고 단속할 위험이 있다“고 지적했다. 특히 “개인의 거주지나 교류 관계, 과거 경찰 접촉 기록 등이 위험 평가에 반영되면 실제 범죄행위와 관계없이 특정 집단이 감시 대상으로 분류될 수 있다“고 비판했다.
국제앰네스티는 이러한 시스템이 영국의 인권 의무에 위배된다고 주장하며 예측 치안 기술의 사용 금지를 요구했다. 2025년 8월에는 시민 1만9403명이 관련 기술의 금지를 촉구하는 청원에 참여했다고 발표했다.
영국 경찰 얼굴인식 AI에서도 집단별 편향 확인
경찰 AI의 차별 위험은 범죄 예측과 별개로 얼굴인식 기술에서도 드러났다.
영국 정보위원회(Information Commissioner’s Office·ICO)는 2026년 8월 18일 경찰 얼굴인식 기술 감사 결과를 발표했다. 잉글랜드와 웨일스 경찰 조직 5곳을 대상으로 2025년 6월부터 2026년 3월까지 실시한 감사에서 개인정보 보호와 기술 운영에 관한 개선 사항을 제시했다.
정보위원회는 별도의 2025년 12월 5일 공식 발표에서 “경찰 국가데이터베이스의 사후 얼굴인식 알고리즘에 과거부터 편향이 존재했다는 사실을 확인했다“고 밝혔다. 국립물리연구소의 시험에서 일부 인구집단은 다른 집단보다 잘못된 얼굴 일치 결과가 나올 가능성이 높은 것으로 나타났다.
정보위원회는 내무부와 경찰청장협의회에 문제를 제기했다. 관계기관은 직원 교육과 감독 보고, 평등영향평가 등의 조치를 마련하고 알고리즘 교체도 추진하고 있는 것으로 확인됐다.
미국 연구진, 편향된 경찰 기록을 ‘오염된 데이터’로 규정
예측 치안 시스템의 데이터 편향 문제는 미국에서도 연구 대상이 됐다.
미국 뉴욕대 법률평론에 발표된 ‘오염된 데이터, 잘못된 예측(Dirty Data, Bad Predictions)’ 연구에서 라시다 리처드슨(Rashida Richardson), 제이슨 슐츠(Jason Schultz), 케이트 크로퍼드(Kate Crawford)는 경찰의 불법적이거나 인종적으로 편향된 활동에서 생성된 기록을 ‘오염된 데이터(Dirty Data)’로 규정했다.
연구진은 “미국 13개 지역의 예측 치안 시스템을 분석해 9개 지역에서 편향된 경찰 기록이 범죄 예측 시스템의 학습이나 운영에 사용될 수 있는 상태였다“고 설명했다. 특히 시카고에서는 문제가 있는 경찰 기록이 실제 예측 시스템에 입력된 정황을 확인했다.
연구진은 “경찰의 불법적이거나 차별적인 단속으로 생성된 데이터를 사용하면 예측 결과에도 편향이 반영될 위험이 있기 때문에 시스템의 투명성과 외부 감시가 필요하다“고 지적했다.
한국 경찰도 AI 범죄 예측의 지역 차별 우려
한국에서도 경찰의 인공지능 기반 범죄 예측 시스템이 지역 차별을 강화할 수 있다는 우려가 제기됐다. 경찰청은 2021년 5월부터 범죄위험도 예측·분석 시스템(Pre-CAS)을 전국적으로 운영하기 시작했다. 이 시스템은 치안·공공데이터를 분석해 100m×100m 구역별로 2시간 간격의 범죄 위험도를 10개 등급으로 예측하는 방식이다.
2022년 5월 7일 공개된 보도에 따르면, 국가인권위원회에 제출된 ‘인공지능 개발과 활용에서의 인권 가이드라인 연구’ 보고서는 “경찰의 범죄 예측 시스템이 낙후지역에 대한 낙인효과를 강화하고 빈곤지역에 대한 집중 순찰을 초래할 위험이 있다”고 지적했다. 보고서는 미국의 예측 치안 프로그램 프레드폴(PredPol)을 사례로 들어 과거 단속 기록의 편향이 AI 예측에 재반영되는 문제를 설명했다.
경찰청은 이후에도 범죄 예측 기술 개발을 추진했다. 2025년 5월 9일 경찰청 발표에 따르면 동국대와 서울시 자치경찰위원회 등이 참여하는 연구과제에는 서울의 범죄 발생 이력과 환경 데이터를 분석해 위험지역을 등급별로 시각화하는 AI 모델 개발이 포함됐다. 연구기간은 2025년부터 2027년까지다. 경찰청의 2026년 국가연구개발사업 추진계획에도 서울 연구과제가 계속과제로 포함돼 있다.
한 경찰 출신 변호사는 “AI 범죄 예측 시스템은 경찰의 순찰 인력을 효율적으로 배치하는 데 도움이 될 수 있지만, 과거 단속 기록에 편향이 있다면 특정 지역에 대한 집중 순찰과 감시가 반복될 수 있다”고 말했다. 또 “AI의 예측 결과를 그대로 따르기보다 데이터의 편향 여부를 정기적으로 검증하고 최종 판단은 경찰관이 책임지는 체계를 갖춰야 한다”고 설명했다.
Q&A
Q1. 예측 치안과 생성형 AI의 차이는 무엇인가?
예측 치안은 범죄 발생 가능성이나 위험지역을 통계적으로 추정하는 기술이다. 생성형 AI는 수사보고서 작성, 자료 요약, 문서 초안 작성 등에 활용된다. 두 기술 모두 오류 위험이 있지만, 예측 치안에서는 데이터 편향이, 생성형 AI에서는 허위 정보 생성과 정확성 문제가 특히 중요하다.
Q2. AI가 특정 지역의 범죄 위험을 높게 평가하는 것 자체가 차별인가?
반드시 그렇지는 않다. 그러나 과거의 불균형한 단속으로 만들어진 데이터를 사용하면 실제 범죄 위험과 경찰의 단속 빈도를 혼동할 수 있다. 따라서 데이터의 수집 경위와 예측 결과가 특정 집단에 미치는 영향을 함께 평가해야 한다.
Q3. 영국은 경찰의 AI 사용을 금지하려는 것인가?
현재 소개된 영국 정부 조사와 경찰감찰기구의 발표는 전면 금지보다 사용 조건, 직원 교육, 인간의 감독, 책임 규정에 초점을 맞추고 있다. AI가 경찰 업무에 제공하는 이익을 인정하면서 부적절한 활용을 통제하려는 접근이다.
