일론 머스크가 소유한 xAI의 AI 챗봇 그록(Grok)을 둘러싼 아동 성착취물 생성 의혹 소송에 원고 2명과 피고 스태빌리티AI(Stability AI)가 추가됐다. 매셔블(Mashable)은 8월 18일 그록이 미성년자 성착취물을 생성하는 데 이용됐다는 의혹과 관련해 xAI가 연방법원에서 소송에 대응하게 됐다고 보도했다.
테네시주 청소년 3명은 지난 3월 xAI를 상대로 연방법원에 소송을 냈다. 이들은 악의적인 이용자들이 어린 시절의 사진을 바탕으로 자신들의 성적으로 노골적인 이미지를 만들도록 그록이 사용됐으며, 회사가 미성년자들의 성적 이미지 수백만 장 생성에 관여했다고 주장했다. 지난달에는 원고 2명이 추가로 소송에 참여하면서 그록의 이미지 생성 기능으로 가능해졌다고 주장하는 온라인 성적 학대 사례를 제시했다. 소송에는 텍스트·이미지 생성 모델 스테이블 디퓨전(Stable Diffusion)을 개발한 스태빌리티AI도 두 번째 피고로 이름을 올렸다.
새로 참여한 원고 중 한 명은 사건 기록에서 제인 도 4로 표기됐다. 그녀는 소송을 통해 “이 도구들에 대한 제한 없는 접근이 너무 빠르게 확산하고 있다”며 “일상생활을 아동 성착취물로 바꾸고 있다”고 말했다. 경찰 기록에 따르면 가해자는 제인 도 4의 어린 시절 사진 한 장을 이용해 성적으로 노골적인 이미지와 동영상 7000건 이상을 그록으로 제작한 것으로 전해졌다. 원고들은 xAI가 그록의 AI 기능을 통해 성매매 사업으로 이익을 얻었으며, 회사의 ‘과실’과 ‘결함 있는 제품 설계’가 공공 nuisance를 초래했다고도 주장했다.
미국 법률상 기업은 아동 성착취가 의심되는 사례를 실종·착취 아동을 위한 국가센터(NCMEC)에 신고해야 한다. NCMEC에 따르면 메타(Meta), 아마존 AI 서비스, 틱톡, 스냅챗, 디스코드, X, xAI, 그라인더, 로블록스는 2025년 합계 1700만건의 신고를 제출해 전체 신고의 80%를 차지했다. 그러나 신고 상당수에는 AI 학습 데이터에 아동 성착취물의 존재가 포함됐는지, 수사기관이 용의자를 찾는 데 필요한 구체적인 정보가 담기지 않았다고 NCMEC는 지적했다.
확대된 소송 자료에 따르면 X는 제인 도 4 사건과 관련해 신고 1건만 제출했으며, 수사기관의 요청에도 추가 정보를 제공하지 않았다. 원고 측 변호사 애니카 마틴은 NPR에 그록을 “사회의 재앙”이라고 말했다. 동의 없이 친밀한 이미지가 유포된 피해자는 사이버 시민권 이니셔티브(CCRI) 24시간 무료 비밀 지원 전화 844-878-2274를 이용할 수 있으며, CCRI 웹사이트는 국제 지원기관 정보도 제공한다.