핵심 요약
AI 요약
기사 목차 펼치기 / 접기
미국에서 인공지능(AI)으로 만든 가짜 음성이 긴급 신고 시스템을 교란하고 있다. AI로 폭탄 테러나 총격 사건을 꾸며 신고하면 경찰과 구조대가 출동한다. 신고를 받은 요원들은 목소리만으로 진위를 가리기 어렵다. 허위 신고를 의심하더라도 실제 위험이 있을 수 있어 출동을 미루기도 어렵다는 것이 더 심각한 문제로 지적되고 있다.
미국 공영라디오 NPR은 11월 11일 “AI로 만든 음성과 배경음을 이용해 긴급 상황을 꾸미는 허위 신고가 911 신고 접수 요원들을 속이고 있으며, 기술이 정교해지면서 가짜 신고를 가려내기가 더욱 어려워지고 있다”고 보도했다.
지난 8월 미국 캘리포니아주 유바 카운티의 휘틀랜드 유니언 고등학교(Wheatland Union High School)에 폭탄을 설치했다는 협박 전화가 걸려 왔다. 경찰이 밤사이 출동했고 학교는 수업을 취소했다. 그러나 폭탄은 발견되지 않았다. 인명 피해도 없었다.
협박 전화에는 AI로 생성한 음성이 사용된 것으로 보도됐다. NPR은 “이 사건이 여름철 미국 전역의 학교를 대상으로 발생한 일련의 허위 신고 사건 가운데 하나였다”고 전했다.
이처럼 폭탄 테러나 총격 사건을 허위로 신고해 경찰특공대 등 대규모 경찰력을 특정 장소로 출동시키는 범죄를 ‘스와팅(Swatting)’이라고 한다. 특정인을 괴롭히거나 보복하는 수단으로 악용되며, 실제 긴급 상황에 투입돼야 할 경찰력이 허위 신고에 동원되는 문제도 발생한다.
신고 접수 요원 14%가 AI 악용 경험
미국 공공안전통신관리자협회(APCO International)와 공공안전위협연합(Public Safety Threat Alliance)이 올해 6월 발표한 조사에서도 AI를 이용한 공격이 확인됐다.
NPR에 따르면 “공공안전 통신 분야 종사자 766명을 대상으로 한 조사에서 신고 접수 담당자 약 14%가 AI 도구를 이용한 공격의 대상이 된 경험이 있다고 답했다.”
이는 미국 전체 긴급 신고의 14%가 AI 허위 신고라는 의미는 아니다. 조사에 참여한 담당자 가운데 AI 악용 사례를 경험했다고 응답한 비율이다.
AI 음성은 이제 사람의 목소리를 흉내 내는 데 그치지 않는다. 말을 하다가 머뭇거리거나 잠시 생각하는 듯한 표현도 만들어 낸다. 총소리나 비명 같은 배경음까지 합성하면 실제 현장에서 걸려 온 신고처럼 들릴 수 있다.
APCO의 멜 마이어(Mel Maier) 최고경영자 겸 사무총장은 NPR에 “과거에는 허위 신고자의 목소리를 비교적 쉽게 알아챌 수 있었지만, 이제는 자연스럽게 들리고 말 사이에 멈춤이나 머뭇거림까지 넣을 수 있다”고 설명했다.
신고를 접수하는 요원에게는 음성을 정밀하게 분석할 시간도 부족하다.
플로리다공과대학교(Florida Institute of Technology)의 브랜던 메이(Brandon May) 법심리학 교수는 NPR에 “60~90초 정도의 긴급 통화에서 AI 합성 여부를 판단하기는 극도로 어려울 것”이라고 지적했다.
FBI, 허위 신고 식별 지침 발표…발신번호·신고 경로 확인
미국 연방수사국(FBI)도 허위 긴급 신고에 대한 대응을 강화하고 있다.
FBI 인터넷범죄신고센터는 8월 4일 허위 긴급 신고를 식별하기 위한 경보를 발표했다. 인터넷전화(VoIP)를 이용해 여러 장소를 대상으로 신고하거나 발신번호가 차단되거나 비정상적으로 표시되는 경우 등을 주의할 징후로 제시했다.
911이 아닌 경찰서 일반 전화번호로 신고하거나, 대형 사건인데도 목격자의 추가 신고 없이 전화 한 통만 접수되는 상황도 확인할 필요가 있다고 설명했다.
다만 이런 특징이 나타난다고 해서 곧바로 허위 신고로 판단해서는 안 된다고 권고했다. 신고 경로와 발신정보뿐 아니라 사건의 전체 상황을 함께 검토해야 한다는 것이다.
FBI의 지침은 AI 음성 자체를 탐지하는 기술 규제가 아니고 기존 스와팅 수법에 대응하기 위한 수사·예방 지침이다.
미국 전국긴급전화번호협회(NENA)의 에이프릴 하인즈(April Heinze) 부회장 겸 911 운영 책임자는 NPR에 “허위 신고자들이 발신 위치 등 정보가 제공되는 911에 직접 전화하기보다 경찰서나 법원에 전화한 뒤 신고 접수센터로 연결되는 방식을 이용한다”고 설명했다.
APCO는 신고자가 실제 현장에 있는지 확인할 수 있도록 구체적인 질문을 던지는 교육 기준도 개발하고 있다. 인터넷 검색이나 소셜미디어에 공개된 정보만으로는 답하기 어려운 현장 상황을 묻는 방식이다.
그러나 질문 내용과 식별 방법을 지나치게 자세히 공개하면 범죄자들이 이를 학습해 더 정교한 AI 허위 신고를 만들 수 있다는 문제도 있다고 전문가들은 지적했다.
가짜 신고 의심해도 출동…긴급 구조 시스템의 딜레마
911 신고 접수 요원들이 가장 어려워하는 부분은 허위 신고가 의심되더라도 경찰 출동을 중단하기 어렵다는 점이다.
폭탄이나 총격 사건이 실제로 발생했을 가능성을 배제할 수 없기 때문이다. 가짜 신고를 걸러내려다 실제 위급한 상황에 대한 대응이 늦어지면 인명 피해가 발생할 수 있다.
반대로 허위 신고에 경찰력을 투입하면 다른 긴급 사건에 대응할 인력이 줄어든다. 학교나 공공시설에 대한 폭탄 협박은 대피와 휴교로 이어질 수도 있다.
APCO와 NENA는 이런 상황에서도 생명을 위협하는 사건이 신고되면 긴급 대응을 계속한다는 원칙을 유지하고 있다. AI 음성 탐지 기술을 도입하더라도 그 결과만으로 신고의 진위를 확정하기 어려운 이유다.
하인즈 부회장은 NPR에 “스와팅 사건이라는 징후가 있더라도 공공안전 기관은 강력하게 대응할 것이다. 생사가 걸린 상황이 신고되기 때문에 위험을 감수할 수 없다”고 말했다.
Q&A
Q1. 스와팅은 단순한 허위 신고와 어떻게 다른가?
스와팅(Swatting)은 폭탄 테러, 총격, 인질극 등 중대한 범죄가 발생했다고 허위 신고해 무장 경찰이나 경찰특공대가 출동하도록 만드는 행위다. 특정인을 괴롭히거나 보복하기 위해 악용되기도 한다. AI를 이용하면 신고자의 음성과 현장 소리까지 합성할 수 있어 신고 내용이 더 실제처럼 들릴 수 있다.
Q2. 미국에서는 AI를 이용한 스와팅을 별도로 처벌하는가?
미국에서는 허위 긴급 신고에 대해 연방 또는 주 법률에 따라 형사책임을 물을 수 있다. 다만 AI 음성을 사용했다는 이유만으로 모든 사건에 동일한 별도 처벌 규정이 적용되는 것은 아니다. 신고 내용과 통신수단, 관할권, 피해 결과 등에 따라 적용 법률이 달라진다.
Q3. AI 음성 탐지 기술로 허위 신고를 차단할 수 있나?
AI 음성 탐지 기술은 보조 수단으로 활용할 수 있지만, 탐지 결과만으로 경찰 출동 여부를 결정하기는 어렵다. 실제 사람의 신고를 AI 합성 음성으로 잘못 판단할 위험이 있기 때문이다. 미국의 관련 기관들은 발신정보 확인, 신고 내용 검증, 접수 요원 교육 등을 병행하고 있다.
