핵심 요약
AI 요약
기사 목차 펼치기 / 접기
일론 머스크의 인공지능(AI) 기업 xAI가 개발한 그록(Grok)이 어린 시절 사진을 성적 딥페이크 이미지로 변조하는 데 사용되면서 피해자들의 법적 대응이 확대되고 있다. 미국에서는 미성년자 사진을 이용한 성적 이미지 생성에 대해 xAI의 책임을 묻는 집단소송이 제기됐다. 캐나다 개인정보 감독당국도 그록의 안전장치 부족을 문제 삼아 개인정보 보호법 위반 결정을 내렸다.
11월 11일 블룸버그는 어린 시절 사진이 그록을 통해 성적 이미지로 변조된 피해자들이 느끼는 충격과 심각성, 법적 대응을 심층 보도했다. 피해자들이 문제 삼는 것은 이미지를 제작하고 유포한 이용자의 행위만이 아니다. 이 같은 이미지 생성을 가능하게 한 AI 개발사에도 책임을 물을 수 있는지가 핵심 쟁점이다.
미성년자 3명 집단소송…졸업앨범 사진까지 악용
지난 3월 16일 미성년자 피해자 3명은 미국 캘리포니아 북부 연방지방법원에 xAI를 상대로 집단소송을 제기했다. 사건은 익명 원고 대 xAI 사건(Doe v. X.AI Corp., 5:26-cv-02246)이다.
블룸버그 로는 당시 “원고들이 xAI가 아동의 성적 이미지 생성 위험을 알면서도 업계 표준에 부합하는 안전장치를 마련하지 않았다고 주장했다”고 보도했다.
소장에 따르면 원고들은 자신의 사진이 성적으로 변조돼 온라인 커뮤니티 디스코드(Discord)에 게시된 사실을 알게 됐다. 일부 이미지에는 학교 졸업앨범과 행사 사진이 사용됐다. 원고 측은 수사기관이 해당 이미지가 xAI의 도구로 제작됐다는 사실을 파악했다고 주장했다.
원고들은 미국 연방법인 마샤법(Masha’s Law), 인신매매 피해자 보호법(Trafficking Victims Protection Act)과 캘리포니아주 법률 등을 근거로 손해배상을 청구했다. AI 시스템의 설계 결함과 안전관리 소홀에 따른 책임도 제기했다.
이 소송에서 피해자들이 겨냥한 것은 성적 이미지를 직접 만든 이용자뿐만이 아니다. 위험한 결과물이 생성될 가능성을 알면서도 이를 막을 장치를 충분히 마련하지 않은 AI 개발사에도 책임이 있다는 주장이다.
xAI는 이용자 고소…개발사와 이용자 책임 공방
xAI도 그록으로 미성년자 성적 이미지를 제작한 것으로 의심되는 이용자를 상대로 별도 소송을 제기했다.
로이터는 7월 15일 “xAI가 미국 사우스캐롤라이나주 주민 테리 하우드(Terry Harwood)를 상대로 그록 이용약관 위반을 이유로 소송을 제기했다”고 보도했다.
xAI는 하우드가 성인과 미성년자의 일반 사진을 이용해 성적으로 노골적인 딥페이크 이미지를 생성하려 했다고 주장했다. 회사는 손해배상과 함께 하우드의 그록 이용을 금지하는 법원 명령을 청구했다.
xAI가 제기한 소송은 이용자가 AI 서비스를 부적절하게 사용한 행위에 초점을 맞췄다. 반면 피해자들이 제기한 집단소송은 개발사가 그러한 사용을 막기 위해 충분한 조치를 취했는지를 문제 삼는다.
동일한 AI 서비스에서 발생한 성적 딥페이크를 두고 한쪽에서는 이용자의 약관 위반을, 다른 쪽에서는 개발사의 제품 설계와 안전관리 책임을 다투는 것이다.
캐나다는 개인정보법 위반 판단…영국도 조사 착수
미국에서 민사소송이 진행되는 동안 해외 규제당국은 그록의 개인정보 처리와 안전장치를 조사했다.
캐나다 개인정보보호위원회는 6월 11일 xAI와 엑스(X)가 캐나다 연방 민간부문 개인정보 보호법을 위반했다고 발표했다.
위원회는 그록의 이미지 생성 기능이 적절한 안전장치와 개인정보 침해 위험에 대한 충분한 검토 없이 출시됐다고 판단했다. 그 결과 이용자들이 여성과 아동의 사진을 동의 없이 성적으로 변조하고 공유할 수 있었다고 지적했다.
영국 정보위원회(ICO)도 2월 3일 그록의 개인정보 처리와 성적 이미지 생성 문제에 대한 공식 조사에 착수했다. 개인정보 처리의 적법성과 유해 이미지 생성을 방지하기 위한 보호조치가 조사 대상에 포함됐다.
영국 통신규제기관 오프콤(Ofcom)은 앞서 1월 12일 온라인안전법에 따른 별도 조사에 착수했다. 엑스는 이후 그록을 통한 사적인 신체 이미지 생성을 방지하는 조치를 도입했다고 밝혔지만, 오프콤은 조사를 계속한다고 발표했다.
미국 소송이 피해자의 손해배상 청구를 다룬다면, 캐나다와 영국의 규제 절차는 AI 서비스를 제공하는 기업이 개인정보 보호와 유해 이미지 생성 방지를 위해 어떤 의무를 부담하는지를 다룬다.
피해자 추가에 스태빌리티AI까지 피소
미국 집단소송은 최초 제기 이후 피고와 원고가 모두 늘어났다.
원고 측 법률대리인인 리프 캐브레이저 법률사무소는 7월 7일 피해자 2명을 추가하고 이미지 생성 AI 기업 스태빌리티AI(Stability AI)를 피고에 포함하는 수정소장을 제출했다고 발표했다.
수정소장에 따르면 추가된 원고 중 한 명은 11세 때 촬영된 사진이 그록을 통해 약 7000장의 성적 이미지로 변조됐다고 주장했다. 또 다른 원고는 14세 때 촬영한 졸업사진이 같은 방식으로 악용됐다고 밝혔다.
원고 측은 xAI가 아동 성착취 이미지 관련 신고 과정에서 수사에 필요한 정보를 충분히 제공하지 않았다는 주장도 제기했다. 스태빌리티AI에 대해서는 안전장치가 부족한 AI 모델을 공개해 제3자의 성적 딥페이크 제작을 가능하게 했다고 주장했다.
피해자들이 제기한 법적 책임의 범위가 특정 서비스를 운영하는 기업에서 이미지 생성 모델을 개발·공개한 기업으로 넓어진 것이다.
소송을 맡은 애니카 마틴(Annika K. Martin) 변호사는 7월 7일 수정소장 제출 당시 “xAI와 스태빌리티AI는 성인의 노골적인 딥페이크를 만들 수 있는 AI 모델이 아동 성착취 딥페이크도 생성할 수 있다는 사실을 알고 있었다. 그런데도 피해를 외면한 채 위험한 기술을 사회에 내놓는 사업적 결정을 내렸다”고 비판했다.
Q&A
Q1. 실제 아동 성착취 사진이 아니라 AI가 합성한 이미지도 불법인가?
미국 연방법은 일정한 요건을 충족하는 디지털 생성·변조 아동 성착취 이미지도 규제한다. 다만 모든 성적 딥페이크가 동일한 범죄에 해당하는 것은 아니다. 이미지의 내용, 실제 아동을 식별할 수 있는지, 적용 법률의 구성요건 등에 따라 판단이 달라진다.
Q2. AI 개발사가 직접 이미지를 만들지 않았는데도 손해배상 책임을 질 수 있나?
피해자들은 개발사가 위험을 예견할 수 있었음에도 안전장치를 충분히 마련하지 않았다는 이유로 제품 설계 결함이나 과실에 따른 책임을 주장할 수 있다. 실제 책임이 인정되는지는 해당 법률의 요건과 개발사의 구체적인 행위에 따라 결정된다.
Q3. 그록 사건이 다른 생성형 AI 기업에도 영향을 미칠 수 있나?
미국 법원이 AI 개발사의 설계 결함이나 안전관리 의무 위반을 인정하면 유사한 이미지 생성 서비스를 제공하는 기업에서도 관련 법적 쟁점이 제기될 수 있다. 다만 미국의 민사소송과 캐나다 개인정보 감독당국의 결정은 적용 법률과 판단 대상이 서로 다르다.
