미국 설문 응답자의 71%가 AI 딥페이크와 허위정보가 선거에 영향을 미칠 가능성을 걱정하는 것으로 나타났다. 가디언은 9월 30일 AI로 만든 이미지가 정치인을 겨냥해 확산하고, 이를 규제하려는 연방·주 정부의 논의도 이어지고 있다고 보도했다.
AI 조작 이미지, 정치인 겨냥해 확산
디지털 마케팅 업체 래드 캠페인(Rad Campaign)과 여성 기업가 지원단체 위민 후 테크(Women Who Tech)가 6월 중순 실시한 설문에서 응답자 3명 중 2명은 AI가 여성을 성적으로 묘사하는 데 쓰이는 것을 우려했다. 래드 캠페인 창립자이자 위민 후 테크 공동창립자인 앨리슨 케이핀(Allyson Kapin)은 응답자들이 AI의 일자리·경제 영향보다 딥페이크, 선거 허위정보, 여성과 아동의 성적 대상화에 더 큰 우려를 보였다고 설명했다.
조지아주 칼리지파크 시장 비앙카 모틀리 브룸(Bianca Motley Broom)이 남편이 아닌 남성과 술집에서 입을 맞추는 것처럼 조작한 사진은 페이스북에서 널리 퍼졌다. 사진이 가짜라는 설명도 확산했지만, 그 전에 수천 명이 이미 이미지를 본 뒤였다. 모틀리 브룸은 조작물이 여성 지도자에 대한 낡은 고정관념을 강화하려는 것이라며, 온라인 공격에 굴복하지 않겠다고 말했다. 그는 정치적 반대자들이 자신을 겨냥했을 가능성이 있다고 봤다.
연방·주 정부, 딥페이크 규제 논의
정치권 인사들도 허위 이미지의 표적이 됐다. 민주당 상원의원 라파엘 워녹(Raphael Warnock)은 자신이 건강 문제를 겪거나 실제로는 없는 손주들을 안고 있는 것처럼 묘사한 이미지가 온라인에 돌았다고 밝혔다. 뉴욕시장 조란 맘다니(Zohran Mamdani)와 그의 어머니를 제프리 엡스타인과 함께 있는 것처럼 꾸민 이미지도 X의 패러디 계정에서 유포됐다. 로이터(Reuters)는 구글(Google)의 신스아이디(SynthID) 도구를 이용해 해당 이미지가 조작됐다고 밝혔지만, 다른 계정들이 진짜인 것처럼 재전파한 뒤였다.
워녹 의원은 선거 직전 AI 이미지와 가짜 이야기가 퍼지면 유권자가 무엇이 진실인지 가리기 어려워질 수 있다고 말했다. 그는 민주당 상원의원들과 함께 선거 개입 상황에 대한 대응 방안을 논의하고 있다. 공화당 존 케네디(John Kennedy) 상원의원은 AI 기업이 오작동하는 AI를 멈출 수 있는 장치를 두도록 하는 법안을 발의했지만, 랜드 폴(Rand Paul) 상원의원이 업계 의견을 더 들어야 한다며 처리를 막았다.
주별 규제도 추진되고 있다. 테네시주의 일명 엘비스법은 AI 음성 복제와 디지털 초상 복제로부터 정치인과 주민을 보호한다. 대부분의 주에서는 선거 캠페인이 AI로 후보자나 공직자의 발언·모습·행동을 조작할 경우 이를 명확히 고지하도록 법으로 정했지만, 조지아주는 해당 규정을 두지 않았다. 조지아주 의회는 2024년과 2025년 딥페이크 보호 법안을 논의했으나 아직 제정하지 않았다. 하킴 제프리스(Hakeem Jeffries) 민주당 하원 원내대표는 AI 규제를 서둘러야 한다고 촉구했다.
