스타트업 노리커그니션(noRecognition)이 AI 감시 카메라의 차량 번호판 인식을 교란하도록 설계한 차량용 랩을 선보였다. 회사는 특정 색상과 도형을 조합한 패턴으로 플록(Flock)의 자동 번호판 인식기(ALPR)를 비롯한 컴퓨터 비전 시스템을 혼란시킬 수 있다고 주장했다.
매셔블(Mashable)은 8월 22일 노리커그니션이 이 같은 차량 랩을 개발하고 있다고 보도했다. 사이버보안 연구자 빌 스웨어링언(Bill Swearingen)이 설립한 이 회사는 지난 6일 미국 라스베이거스에서 열린 사이버보안 행사 데프 콘(Def Con)에서 2009년형 토요타 야리스에 추상적인 파란색·노란색 랩을 입힌 시제품 차량을 공개했다.
스웨어링언은 테크크런치(TechCrunch)와의 인터뷰에서 노리커그니션의 패턴을 11개 오픈소스 감지 알고리즘으로 시험했다고 설명했다. 여기에는 플록의 차량 번호판 인식 소프트웨어와 법 집행기관용 바디카메라를 제작하는 액손(Axon)의 시스템을 구동하는 기술도 포함됐다고 매셔블은 전했다. 그는 고향에서 감시 카메라가 빠르게 늘어나는 모습을 본 뒤 차량 랩을 설계하고 시험하게 됐다며 "사생활은 기본권"이라고 말했다.
노리커그니션은 기존에 같은 방식의 패턴을 티셔츠와 후드티, 헤드 버프 등에 적용해 판매해왔다. 회사에 따르면 상품은 한정 수량으로 제작되며, 같은 디자인을 반복하지 않는 패턴이 감시 기술의 탐지를 방해하도록 설계됐다. 이번 차량 랩은 이런 디자인을 자동차 튜닝으로 확장해 플록의 AI 기반 ALPR이 번호판이나 차량을 제대로 식별하지 못하게 하려는 시도다.
이 기술은 적대적 미디어 또는 적대적 노이즈로 불리는 AI 대응 전략에 속한다. 이미지나 영상에 특정 데이터를 넣어 AI가 대상을 잘못 분류하게 만드는 방식으로, 촬영이 이뤄지는 실시간 환경에서는 색상과 도형의 배치가 컴퓨터 비전의 판단을 흐리게 한다. 패턴은 기계학습을 활용해 만들어지는 경우도 있으며, 감시 시스템에 기록되는 것 자체를 막지는 않지만 탐지·분류 결과를 교란하는 것이 목표다.
비슷한 방법은 공공장소의 얼굴인식 시스템을 피하려는 시위대 사이에서도 사용됐다. 연구자 애덤 하비(Adam Harvey)가 고안한 초현실적 얼굴 화장은 2020년 세계적인 시위 과정에서 활동가 단체를 통해 확산됐고, 컴퓨터 비전 대즐 또는 CV 대즐로 불렸다. 다만 특정 패턴의 효과가 모든 카메라와 알고리즘에서 보장되는 것은 아니다. 패턴마다 적용 환경과 감지 알고리즘에 맞춘 검증이 필요해 한 상황에서 작동한 디자인이 다른 상황에서는 실패할 수 있고, 많은 반AI 의류 제작자가 대규모 시험 결과를 제시하지 못했다. AI 감지 기술이 계속 개선되는 점도 차량 랩의 지속적인 효과를 제한할 수 있다.