호주 빅토리아주 선거를 앞두고 진행된 연구에서 정치 딥페이크가 실제 영상만큼 설득력을 보였고, 참가자 절반 가까이가 진짜 정치영상을 진짜라고 확신하지 못한 것으로 나타났다. 더컨버세이션은 9월 28일 연구진의 예비 결과를 소개했다.
정치 딥페이크, 실제 영상만큼 설득력
연구진은 2018년부터 2026년까지 발표된 선행 연구 19건과 2만4천명 이상의 조사 결과를 종합했다. 아직 출판 전인 메타분석 결과, 정치 딥페이크는 실제 영상이나 기존 형태의 허위정보만큼 사람들을 설득할 수 있는 것으로 나타났다. 딥페이크가 뉴스와 민주주의 제도에 대한 신뢰 저하와도 관련됐다는 분석이다. 진짜 자료까지 가짜로 치부하는 이른바 ‘거짓말쟁이의 배당’으로 이어질 수 있다는 지적도 나왔다.
호주인 411명을 대상으로 한 실험에서는 참가자들이 실제 정치영상, 저품질 딥페이크, 고품질 딥페이크 중 하나를 봤다. 약 75%는 영상의 품질과 관계없이 딥페이크를 알아봤지만, 나머지 약 4명 중 1명은 가짜라고 판별하지 못하거나 진위가 불확실하다고 답했다. 반면 실제 영상은 29%가 가짜라고 잘못 판단했고, 18%는 진위를 확신하지 못했다. 참가자 거의 절반이 진짜 영상을 정확히 식별하지 못한 셈이다.
뉴스 이용량·정치 성향 따라 판별 차이
뉴스를 많이 접한 사람은 저품질 딥페이크를 더 잘 가려냈지만, 정교한 딥페이크를 판별하는 능력은 나아지지 않았다. 뉴스 이용량이 많을수록 실제 영상을 진짜라고 판단하는 정확도는 오히려 낮아졌다. 연령이 높을수록 정치 딥페이크 탐지 능력이 떨어진다는 선행 연구도 소개됐다. 호주 유권자 중 고령층 비중이 크다는 점에서 관련성이 있을 수 있지만, 연구진은 연령별 차이를 이번 실험의 직접 결과로 제시하지는 않았다.
정치 성향에 따른 차이도 단순하지 않았다. 기존 미국 연구에서는 진보 성향 응답자가 딥페이크를 더 정확히 가려낸다는 결과가 있었지만, 이번 예비 실험에서는 영상에 등장한 정치인이 시청자와 같은 성향인지에 따라 차이가 나타났다. 뉴스 이용량이 중간 이상인 참가자는 딥페이크 판별에 자신감을 보이더라도 실제 정확도가 그에 미치지 않는 경우가 있었다. 자신이 가짜라고 확신한다는 이유만으로 영상이 실제로 가짜라고 볼 수 없다는 설명이다.
선거를 앞두고 주유소 흉기 공격, 길가에서 아이를 낳는 여성, 의회 계단을 덮치는 홍수 장면 등을 담은 AI 생성 영상이 유료 광고로 등장했다는 사례도 소개됐다. 연구진은 화면의 어색한 흔적에만 기대지 말고 영상의 최초 출처와 독립적인 보도, 공식 자료를 확인하라고 제안했다. 의심스러운 영상을 진위 확인을 위해서라도 먼저 공유하지 말고, 판별에 대한 자신의 확신도 점검해야 한다는 것이다. 딥페이크가 정교해질수록 과제는 가짜를 알아보는 데 그치지 않고, 실제 증거까지 무조건 의심하지 않도록 검증하는 일이 된다.