아동 성착취 피해 생존자가 일론 머스크의 AI 기업 xAI를 상대로, 챗봇 그록이 자신이 등장한 성착취 이미지를 이용해 새로운 불법 이미지를 만들었다고 주장하며 소송을 냈다. 가디언은 9월 3일 소장을 인용해 이같이 보도했다. 원고는 신원 보호를 위해 제인 도(Jane Doe)로 표기됐다.
그록이 기존 성착취물로 새 이미지 생성했나
소장은 지난주 미국 캘리포니아주 연방법원에 제출됐다. 원고 측 변호인들은 그록이 원고와 집단소송 참여자들의 실제 사진을 사용해 아동 성착취물(CSAM)을 생성했으며, 새 이미지가 공개된 뒤 원고가 등장하는 기존 성착취 이미지까지 xAI 데이터세트에 수집했다고 주장했다. xAI가 성착취물 방지를 위한 업계 표준 보호 조치를 무시해 AI로 만든 성착취물이 X에서 나타나고 확산됐다는 내용도 담겼다.
이번 소송의 원고는 미취학 아동일 때 한 성인 남성에게 반복적으로 성폭행을 당하고 성착취물 제작을 강요받았다고 소장에 적혔다. 해당 영상과 사진은 약 20년 동안 온라인에서 유통됐으며, 캐나다 아동보호센터가 이미지에 부여된 디지털 지문인 해시(hash)를 활용해 X에 올라온 AI 생성 이미지가 원고를 묘사한 것임을 확인했다고 원고 측은 밝혔다. 변호인들은 원본 속 아동이 실제 인물인지 입증하기 어려운 일반적인 AI 성착취물 사건과 달리, 기존 자료와 연결돼 생존 피해자를 식별할 수 있다고 설명했다.
xAI 상대 소송 확산…피해 규모 주목
일론 머스크는 지난 1월 그록이 ‘미성년자의 나체 이미지를 전혀 생성했다는 사실을 알고 있지 않다’고 부인했다. 그러나 xAI는 지난 8월 말 그록으로 미성년자 나체 이미지를 만들었다는 혐의로 형사기소된 이용자 2명을 상대로 소송을 제기했으며, 이들이 낸 행위와 관련해 피해자들이 xAI를 상대로 제기한 소송 비용을 부담하라고 요구했다.
xAI는 그록 이용자들이 X에서 사진 속 옷을 없애거나 성적 이미지를 만들도록 지시할 수 있었던 올해 초의 느슨한 안전장치와 관련해 여러 건의 소송을 받고 있다. 디지털 증오 대응 센터 연구자들은 그록이 수주 동안 수백만개의 성적 이미지를 만들었고, 이 중 어린이를 묘사한 이미지도 수천개에 달했다고 분석했다. 이번 집단소송의 대상은 우선 제인 도 원고지만, 소장에는 비슷한 피해를 본 미성년자가 최소 수천명 포함될 수 있다고 적혔다. xAI와 2월 회사를 인수한 스페이스X(SpaceX)는 소송 관련 논평 요청에 응하지 않았다.
