친러 성향 텔레그램 채널들이 우크라이나 정치인 2명이 전쟁을 한탄하고 평화를 촉구하는 것처럼 꾸민 AI 딥페이크 영상을 확산하고 있다. 영상 속 발언은 실제 발언이 아닌 조작물로 지목됐다.
더 디코더(The Decoder)는 8월 26일 뉴스가드(NewsGuard)를 인용해 이같이 보도했다. 영상에는 우크라이나 보안국 전 부국장 안드리 레부스(Andriy Levus)와 볼로디미르 젤렌스키 대통령 소속 정당의 이반 유나코프(Ivan Yunakov)가 등장한다.
레부스가 등장하는 영상에서는 평화 협상을 촉구하는 듯한 발언이 나오고, 유나코프 영상에서는 영토를 잃은 일을 애도하는 듯한 말이 이어진다. 두 영상 모두 실제 인물이 전쟁에 대해 이런 입장을 밝힌 것처럼 보이도록 제작됐지만, 보도에 따르면 AI로 생성된 딥페이크다.
영상에는 부자연스러운 깜빡임과 평평한 음성, 뻣뻣한 표정 등 AI 조작을 보여주는 흔적이 확인됐다. 말하는 내용과 표정, 음성의 움직임이 자연스럽게 맞물리지 않아 시청자가 영상의 진위를 의심할 수 있는 단서가 된다는 것이다.
두 영상은 2주 동안 모두 13만회의 조회 수를 기록했다. 이는 AI가 선전·선동성 메시지를 짧은 시간에 널리 퍼뜨리는 수단으로 활용될 수 있음을 보여주는 사례라고 더 디코더는 전했다.
유사한 딥페이크는 2022년에도 등장했다. 당시 영상은 젤렌스키 대통령이 항복을 촉구하는 것처럼 묘사했지만, 현재 기준으로는 기술적으로 조잡한 수준이었다.
이런 영상은 진위가 밝혀진 뒤에도 목적을 달성할 수 있다는 점이 문제로 지적됐다. 아무도 조작 사실을 알아채지 못하면 가짜 메시지가 검증 없이 확산되고, 반대로 조작이 드러나더라도 공공 정보에 대한 신뢰를 떨어뜨리고 민주적 담론을 훼손할 수 있다는 설명이다. 이 밖에도 발견되지 않은 유사 영상이 더 있을 가능성이 있다.