메타(Meta) 감독위원회가 AI로 만든 딥페이크 영상에 대한 메타의 규정과 대응이 “일관되고 근본적으로 부적절하다”고 지적했다. 감독위원회는 9월 17일 두 건의 결정문을 공개했다고 엔가젯이 보도했다.
메타 AI 딥페이크 대응 사례
두 사건은 모두 실제 인물을 바탕으로 제작된 AI 영상과 관련됐다. 첫 번째 영상에는 스코틀랜드 정치인이 “난민을 환영한다. 백인들도 여성들을 강간하니 그래도 괜찮다”는 취지의 발언을 하는 모습이 담겼다. 감독위원회는 이 영상이 실제처럼 보이는 합성물이라고 설명했으며, 목소리가 복제된 당사자는 영상이 “상당히 충격적이었다”고 밝혔다.
메타는 해당 영상이 투표나 다른 절차를 방해하는 것으로 보이지 않았고, 신뢰할 수 있는 파트너 기관이 문제를 제기하지 않았다는 이유로 신고 뒤에도 삭제하지 않았다. 게시자가 AI로 제작됐다는 사실을 공개하지 않았기 때문으로 보이며 영상에 AI 표기도 붙지 않았다. 그러나 감독위원회는 이 영상이 메타의 혐오 행위 규정을 위반한 만큼 삭제했어야 하며, AI로 제작된 콘텐츠라는 점도 눈에 띄게 표시했어야 한다고 판단했다.
두 번째 사건에서는 월경 건강 교육을 홍보한 자원봉사자의 TV 인터뷰 영상이 조작됐다. 소셜미디어 계정들이 인터뷰 장면을 디지털 방식으로 바꿔 해당 여성을 조롱하는 영상으로 만들었고, 영상은 여러 플랫폼에서 빠르게 확산됐다. 메타는 신고와 이의 제기를 자동으로 종결했지만, 감독위원회가 관여한 뒤에야 괴롭힘 관련 규정 위반을 이유로 영상을 삭제했다. 해당 영상에도 AI 제작물 표시는 없었다.
여성 대상 괴롭힘과 AI 표시 문제
감독위원회는 두 사례가 AI 콘텐츠가 메타 플랫폼에서 특정인을 공격하는 수단으로 활용되는 양상을 보여준다고 밝혔다. AI 표시가 일관되지 않으면 피해가 커질 수 있다는 지적이다. 파멜라 산 마르틴(Pamela San Martin) 메타 감독위원회 공동의장은 정치인부터 일반 시민까지 AI 딥페이크가 여성을 괴롭히고 공론장 참여를 막는 데 점점 더 사용되고 있다며, 공개적으로 현안을 다루는 여성들이 괴롭힘과 허위정보에 불균형적으로 노출되는 문제가 나타났다고 말했다.
감독위원회는 메타의 콘텐츠 정책에 권고를 제시하는 기구로, 그동안에도 AI 콘텐츠 처리 방식을 반복해 비판해왔다. 메타의 현재 AI 표시는 대체로 “AI 정보”라고 적힌 작은 배너에 그치며, 회사는 최근 다른 사건에서도 감독위원회의 AI 표시 관련 권고 상당수를 받아들이지 않았다. 메타는 이번 비판에 대한 논평 요청에 응답하지 않았지만, 신고된 콘텐츠 중 AI 제작 가능성이 높은 게시물을 우선 심사하라는 권고를 포함해 최신 권고에 60일 안에 답해야 한다.