스페이스xAI(SpacexAI·옛 xAI)가 생성형 AI 챗봇 그록(Grok)의 비동의 딥페이크 기능과 아동 성착취물(CSAM) 학습 의혹으로 또다시 집단소송을 당했다. 실제 아동의 성적 학대 이미지가 학습 데이터에 포함됐고, 그록이 피해자를 묘사한 새로운 이미지를 생성했다는 주장이 제기됐다.
매셔블(Mashable)은 8월 28일 미국에서 전국 단위 집단소송을 추진하는 소장이 제기됐다고 보도했다. 원고는 아동기 성폭력과 CSAM의 피해자인 제인 도(Jane Doe)로, 자신의 학대 장면을 담은 이미지가 그록 학습에 사용됐으며 챗봇이 해당 자료를 바탕으로 자신을 묘사한 성적으로 노골적인 이미지를 새로 만들었다고 주장했다.
소장에는 피해자의 외모와 모습이 다른 미성년자를 대상으로 한 디지털 생성 이미지에도 활용됐다는 내용이 담겼다. 또 회사가 명시적인 콘텐츠를 차단하고, 실제 인물을 비동의 방식으로 성적 대상화한 딥페이크 생성을 막으며, 학습 데이터에서 학대 자료를 걸러내는 조치를 충분히 취하지 않았다고 적혔다. 이는 소장에 담긴 원고 측 주장으로, 법원의 판단이 내려진 사실은 아니다.
제인 도의 변호인인 사라 런던(Sarah London)은 성명에서 의뢰인이 최악의 사건을 담은 이미지가 온라인 포식자들 사이에서 유통되고 언제든 다시 나타날 수 있다는 사실을 거의 20년간 알고 살아왔다고 말했다. 이어 xAI가 피해자의 학대 이미지와 다른 생존자들의 학대 이미지로 모델을 학습한 데 대해 책임을 져야 한다고 주장했다.
CSAM은 사건의 지속적인 수사와 추가 유통 방지를 위해 미국 실종·착취아동방지센터(NCMEC)가 확인하고 보관한다. 이미지 자체를 인터넷서비스 제공업체에 넘기는 대신 각각을 고유한 디지털 서명, 즉 지문으로 변환해 해시 목록(Hash List)에 저장하며, 업체들은 원본 자료를 직접 확인하지 않고도 이 목록을 이용해 관련 자료를 자동 탐지할 수 있다.
이번 소송은 그록의 이른바 ‘누드화’ 기능과 CSAM 생성 관여 의혹을 둘러싼 여러 집단소송 가운데 하나다. 지난 1월에는 X 이용자들이 여성의 사진을 노출이 심한 의상으로 바꾼 일과 관련해 한 여성이 정신적 고통을 호소하며 소송을 냈고, 소장에는 스페이스xAI가 여성을 옷 벗긴 모습이나 성적 자세로 합성한 이미지를 공개하는 챗봇을 만들었다고 주장했다.
지난 3월에는 경찰로부터 미성년 시절의 성적 이미지가 수천 건 생성됐다는 통보를 받은 10대 3명이 그록의 역할을 문제 삼아 소송을 제기했다. 이 사건은 이달 초 청구가 수정되면서 원고 2명이 추가됐으며, 스페이스xAI가 법적으로 요구되는 CSAM 사례의 NCMEC 신고를 효과적으로 하지 않았다는 주장도 포함됐다. 이번 소장에는 텍스트·이미지 생성 모델 스테이블 디퓨전(Stable Diffusion)을 만든 스태빌리티AI(Stability AI)도 추가 피고로 적시됐다. 관련 국제 아동 착취 논란 이후 일부 국가가 그록 접속을 일시 중단한 바 있다고 매셔블은 전했다.
