보안 전문가들이 AI 딥페이크와 음성·영상 복제에 대응하려면 얼굴과 목소리를 확인하는 방식 대신 하드웨어 보안키와 구두 암호 같은 저기술 보안 절차를 도입해야 한다고 권고했다. 지디넷(ZDNet)은 8월 21일 디팩 굽타(Deepak Gupta) 그랙커AI(GrackerAI) 기술 최고경영자(CEO)와 제임스 스코비(James Scobey) 에스투아이투(S2i2) 최고기술책임자(CTO)의 분석을 인용해 이같이 보도했다.
AI로 생성된 얼굴과 목소리를 실제 인물로 믿고 금융 거래를 승인하는 방식은 더 이상 신뢰할 수 있는 인증 수단이 아니라는 설명이다. 2024년 1월 전문서비스 기업 아럽(Arup)의 한 직원은 회사 최고재무책임자(CFO) 등이 참여한 것으로 믿은 화상회의 뒤 제3자 계좌로 15차례 송금했고, 피해액은 약 2500만달러에 달했다. 회의에 참여한 인물들은 아럽 임원들의 공개석상 모습과 실적 발표 영상을 바탕으로 만들어진 AI 복제물이었다.
굽타 그랙커AI 기술 CEO는 아럽 사건과 관련해 얼굴과 목소리를 알아봤다는 판단에 의존하는 절차가 무너졌다며, 사람을 직접 보고 듣는 것만으로는 진위를 증명할 수 없다고 지적했다. 과거에는 배경 소음, 인공적인 음성 변조, 숨소리 부족 등이 딥페이크를 식별하는 단서로 거론됐지만 기술 발전 속도가 이를 앞질렀다. 런던대 연구에서는 청취자의 딥페이크 음성 식별 정확도가 약 73%에 그쳤고, 관련 샘플을 학습해도 정확도 향상 폭은 3.84%에 불과했다.
뒤스부르크에센대와 인디애나대 연구진이 유사 연구 56건을 종합한 결과에서는 사람이 딥페이크를 알아맞히는 비율이 실제로 우연히 맞힐 가능성에 가까운 수준으로 나타났다. 스코비 에스투아이투 CTO는 식별 단서가 보조 신호로는 일부 가치가 있지만, 이를 핵심 통제 수단으로 삼으면 공격자가 노리는 사람의 지각에 의존하도록 만든다고 설명했다. 미국 국가안보국(NSA)·연방수사국(FBI)·사이버보안·인프라보안국(CISA)도 음성·영상 속 조작 흔적을 자동으로 시각화하는 기존 탐지 방식이 항상 통계적으로 유의미한 흔적을 찾을 수 있다는 전제에 의존한다고 지적했다.
위협은 일회성 송금 사기에 그치지 않고 기업 시스템에 장기간 침투하는 방식으로 확대되고 있다. 보안 교육업체 노비포(KnowBe4)는 2024년 면접과 신원 확인을 통과한 인물을 직원으로 채용하고 회사용 컴퓨터까지 지급했지만, 이후 해당 직원이 북한 공작원이었으며 회사용 컴퓨터를 이용해 회사 시스템에 악성코드를 올리고 있었다는 사실을 확인했다. 굽타 CEO는 북한 공격자들이 미국과 유럽 기업을 상대로 매년 수천명의 가짜 근로자를 보내는 방식의 작전을 대규모로 벌이고 있다고 말했다. 미국 법무부는 2025년 공지에서 미국·중국·아랍에미리트·대만 내 협력자의 지원 가능성도 제시했으며, 구글(Google) 위협 인텔리전스 그룹은 2022년부터 유사 사건을 조사해왔다.
전문가들은 원격으로 관찰하거나 복제하기 어려운 단일 통제 지점을 보안 절차에 넣어야 한다고 권고했다. 구체적으로는 정부 기관들의 지침에 따라 하드웨어 기반 보안키와 구두 암호를 사용하고, CISA가 다중요소인증(MFA)의 새로운 기준으로 권고하는 FIDO2 및 PIV 하드웨어 자격증명을 도입하는 방식이다. 이는 AI 탐지 모델의 성능만 높이는 것보다 승인 절차 자체를 바꿔 딥페이크가 침투할 수 있는 경로를 줄이는 접근이다.