영국 광고표준청(ASA)이 여성의 성적 대상화와 음란물 제작을 조장한 AI 앱 광고 5건을 금지했다. ASA는 9월 16일 메타(Meta) 플랫폼에 게시된 AI 동반자·영상 생성 앱 광고들이 성적 고정관념을 강화하고 실제 피해를 일으킬 수 있다고 판단했다고 BBC가 보도했다.
성적 대상화·비동의 이미지 조작 광고
문제가 된 광고 중 하나는 AI 동반자 앱을 홍보하면서 18세 미만 소녀를 성적으로 묘사한 이미지를 사용했다. 다른 광고들은 이용자에게 ‘짝사랑 상대’의 사진을 올리면 이를 자극적인 영상으로 바꿔준다고 안내했으며, 실제 여성의 이미지를 동의 없이 성적 콘텐츠로 변환할 수 있다고 홍보했다.
애니마(Animcha Ltd)가 개발한 AI 동반자 생성기 광고는 합성된 여성 캐릭터를 이용자가 ‘맞춤 설정’하고 지시할 수 있는 대상으로 제시했다. 광고에는 성적 이미지와 함께 아동을 연상시키는 옷과 소품이 등장했다. 넥사이픽(Nexaipic)의 AI 초상화 생성 도구 광고 2건은 이용자에게 ‘짝사랑 상대를 업로드하면 상상한 것을 AI가 만들어준다’고 홍보하며 성적으로 노골적인 영상을 내세웠다.
이미지를 영상으로 바꾸는 앱으로 식별된 KH31 DD22의 광고는 옷을 입은 여성이 상의를 벗은 영상으로 변하는 모습을 보여줬다. ASA는 이 광고가 여성의 신체를 노출하는 콘텐츠 제작에 앱을 사용할 수 있다는 인상을 줬다고 설명했다. 이미지 생성 도구 러스토 AI(Rusto AI) 광고들은 사진 속 여성을 성적 영상으로 바꾸도록 권했고, 픽토팝(PictoPop)의 광고는 복종적인 자세의 여성을 성적 이미지로 활용해 앱을 시연했다.
영국 규제 강화와 메타의 대응
ASA의 니키 베이커는 여성의 대상화와 개인 이미지에서 노골적인 콘텐츠를 만드는 행위를 조장·용인하는 광고는 실제 세계의 피해로 이어질 수 있다며, 심각하거나 광범위한 불쾌감을 일으킬 가능성이 있는 광고에 단호하게 대응한다고 밝혔다. ASA는 이번 조치를 광고를 사전에 찾아내는 ‘능동형 광고 모니터링 시스템’을 활용한 선제 대응이라고 설명했다.
메타는 ASA 조치에 앞서 자체 규정 위반을 이유로 해당 광고들을 삭제했다. 다만 메타 플랫폼에서는 유사한 광고가 반복적으로 노출돼 왔다. 연구자 알렉시오스 만차를리스는 9월 초 조사에서 옷을 입은 사람의 이미지를 성적 영상으로 바꿀 수 있다고 주장한 광고 1만1336건이 발견됐다고 보고했다. 이 광고들의 대부분은 메타에 의해 자동 삭제됐지만, 만차를리스는 일부 광고가 자신의 사이트인 인디케이터(Indicator)가 과거 메타에 신고한 도메인이나 게시자를 홍보했다고 지적했다.
영국에서는 비동의 딥페이크 누드 이미지를 만드는 앱을 불법으로 규정하는 법이 최근 시행됐다. X의 챗봇 그록(Grok)이 여성 이미지를 나체로 바꿔달라는 요청에 응한 사건을 둘러싼 비판이 법 제정의 계기가 됐다. ASA는 조사 중 관련 법이 바뀌었다며 앞으로 확인되는 광고를 법률과 자체 광고 규정에 따라 함께 검토하고, 불법 광고는 플랫폼과 수사기관에 통보할 수 있다고 밝혔다. 광고주로 지목된 앱 개발사들은 ASA의 질의에 답하지 않았다.