호주 원네이션의 AI 선거 영상이 인종적 고정관념을 담은 채 온라인에 유통되면서 선거 콘텐츠 규제 공백이 쟁점으로 떠올랐다. 가디언(The Guardian)은 10월 8일 논평에서 이 영상이 AI 콘텐츠 규제기관의 권한 확대 필요성을 보여준다고 주장했다.
원네이션 영상에 담긴 인종적 고정관념
문제가 된 영상은 주말 빅토리아주 선거 유세 출범 행사에서 상영된 것으로 보도됐다. 아프리카계로 보이는 남성이 마체테를 들고, 중동계로 보이는 남성이 폭발물 조끼를 착용한 장면이 나온다. 터번을 쓴 남아시아계 인물은 ‘대규모 이주’를 말하고, 원주민 원로로 묘사된 인물은 정체성이 아니라 필요에 따라 지원금을 받는다고 언급한다. 가디언은 이 장면들이 인종적 고정관념을 이어 붙인 것이라고 평가했다.
영상 앞부분에는 젊은 남성이 진보 성향 가족 앞에서 보수주의자가 됐다고 밝히는 AI 생성 장면도 포함됐다. 진보 성향 캠페인 단체 겟업(GetUp)은 이 장면이 베냐민 네타냐후 이스라엘 총리의 유사한 선거 영상에서 가져온 것이라고 지적했다. 가디언은 코걸이를 한 파란 머리 힙스터가 녹두를 먹는 식의 농담도 진부하다고 비판했다. 영상이 분노를 유도해 반발을 얻고, 그 반발을 ‘좌파의 공격’이라고 주장하는 데 활용될 수 있다는 분석도 덧붙였다.
온라인 정치 콘텐츠, 규제 사각지대
호주 통신·미디어 규제기관인 ACMA는 방송되지 않은 온라인 영상에 대해 현재 권한으로 조치하기 어렵다. 선거관리기관도 선거 절차에 관한 허위정보를 규제할 수 있을 뿐, 거짓말이나 불쾌한 표현 전반을 다룰 권한은 없다. 가디언은 뉴스코프 보도를 인용해 원네이션 측이 방송용 영상의 다른 버전을 준비 중이라고 전했다. 다만 업계 관계자는 광고의 어조가 현행 방송 규정을 위반할 가능성은 낮다고 말했다.
AI 생성 콘텐츠를 선거 기간에 금지하자는 요구는 호주 연방 의회 안팎에서 나왔지만, 노동당 정부는 아직 이를 받아들이지 않았다. 데이비드 포콕 상원의원은 2년 동안 선거 캠페인에서 생성형 AI를 다루도록 촉구해 왔으며, 그의 온라인 청원에는 다음 연방선거 전에 딥페이크 사용을 금지하는 법을 만들자는 요구에 3만5000명이 서명했다. 의회 AI 합동위원회 청문회에서도 대응이 늦었다는 증언이 나왔다.
호주 선거관리위원회(AEC)는 위원회 제출 의견서에서 AI가 진짜 콘텐츠와 조작된 콘텐츠를 구분하기 어렵게 하고, 권위 있는 정보 출처에 대한 혼란을 키우며, 선거기관의 대응을 어렵게 한다고 밝혔다. 투표 기간에 진위가 확인되지 않은 콘텐츠나 딥페이크가 퍼지면 선거의 실제 공정성이나 공정성에 대한 인식을 훼손할 수 있다는 우려도 제기했다. 의회는 2024년 10월 보고서에서 AI가 민주적 절차를 해치거나 여론에 부정적 영향을 미칠 수 있다고 경고한 바 있다.
가디언은 이번 영상이 진보 성향 가족이 실제로 정치적 지지 성향을 바꿨다고 유권자를 속이는 것은 아니라고 짚으면서도, 선거운동에서 이런 콘텐츠를 허용할지 논의해야 한다고 주장했다. AI 덕분에 제작진과 배우를 고용하지 않고도 선동적인 영상을 만드는 장벽이 낮아졌다는 것이다. 논평은 보수 성향 캠페인 단체 어드밴스(Advance)가 노동당의 선거 승리를 묘사한 AI 광고도 공개됐다고 전하며, AI 생성물이 호주 정치 전반으로 번지는 현상을 규제 논의의 배경으로 제시했다.