xAI가 오는 8월 1일 시행되는 미네소타주의 AI 누디피케이션 규제를 막아달라며 연방법원에 소송을 제기했다. AI 기업이 이용자의 비동의 성적 딥페이크 생성에 대해 어디까지 법적 책임을 져야 하는지를 둘러싼 첫 대형 헌법 소송으로 알려졌다.
xAI는 오는 8월 1일 시행되는 미네소타주의 새 법률이 수정헌법 제1조가 보장하는 표현의 자유를 침해한다고 주장하며 위헌 소송을 제기했다고 AP 등 다수의 언론들이 7월 30일 전했다.
xAI는 이 법이 수정헌법 제1조의 표현의 자유를 침해하고, 동의한 이미지와 예술적 표현까지 지나치게 넓게 규제한다고 주장했다. 미네소타법은 비동의 누드 이미지 생성을 제공하거나 가능하게 한 운영자에게 건당 최대 50만달러(약 7억1400만원)의 손해배상 책임을 부과한다.
소장에서 xAI는 자사가 이미 비동의 누드 이미지 생성을 금지하고 있으며 관련 안전장치를 운영하고 있다고 밝혔다. 그러나 미네소타 법은 동의를 받은 이미지나 예술적 표현까지 규제할 정도로 지나치게 광범위하고, 선의의 안전조치를 취한 AI 개발자를 보호하는 ‘세이프 하버(safe harbor)’ 조항도 없어 위헌이라고 주장했다.
또한 이용자가 10만 건의 위반 이미지를 생성할 경우 이론적으로 최대 500억달러(약 71조3700억 원)의 손해배상 책임을 질 수 있다며 과도한 책임을 문제 삼았다.
미네소타주는 물러서지 않고 있다. 키스 엘리슨 법무장관은 “AI를 이용한 비동의 성적 이미지 생성이 피해자의 존엄성과 사생활을 심각하게 침해한다며 법을 적극 방어하겠다”고 밝혔다.
이번 소송은 xAI가 그록(Grok)의 이미지 생성 기능을 둘러싸고 세계 각국에서 법적 압박을 받고 있는 가운데 제기됐다는 점에서 더욱 주목된다. 영국에서는 노동당 의원 제스 아사토가 그록으로 자신의 성적 딥페이크가 생성됐다며 xAI를 상대로 소송을 제기했고, 최근에는 법원에 해당 이미지 생성을 차단하는 명령까지 요청했다.
미국에서는 미성년자들의 사진이 그록을 통해 성적 이미지로 변환됐다는 이유로 집단소송도 진행 중이다. 원고들은 xAI가 다른 AI 기업들이 채택한 기본적인 안전장치를 도입하지 않았다고 주장하고 있다.
반면 xAI는 이러한 악용 사례에 대해 이용자 책임을 묻는 법적 대응도 병행하고 있다. 이달 중순에는 아동 성착취 이미지를 생성한 혐의를 받는 이용자를 상대로 별도의 민사소송을 제기하며 서비스 약관 위반 책임을 추궁했다.
이번 사건은 미네소타주만의 문제가 아니라 미국 전역의 AI 규제 방향에도 영향을 줄 가능성이 크다는 의견이 많다.
법원이 xAI의 손을 들어줄 경우 다른 주들의 유사 입법에도 제동이 걸릴 수 있다. 반대로 미네소타주가 승소하면 AI 플랫폼 사업자에게 이용자의 딥페이크 악용까지 일정 부분 관리 책임을 부과하는 선례가 될 가능성이 있다는 분석이 나온다.
[FAQ]
FAQ 1. xAI는 왜 미네소타주의 AI 누디피케이션 금지법에 소송을 제기했나?
xAI는 해당 법이 AI 이미지 생성 도구 자체를 지나치게 광범위하게 규제해 수정헌법 제1조가 보장하는 표현의 자유를 침해한다고 주장한다. 또한 선의의 안전조치를 취한 AI 기업까지 막대한 민사책임을 지우고, 이용자의 불법 행위에 대해 플랫폼이 과도한 책임을 부담하도록 설계됐다고 반발하고 있다.
FAQ 2. 미네소타주의 새 법은 무엇을 규제하나?
이 법은 AI를 이용해 실제 인물의 사진을 동의 없이 나체나 성적 이미지로 변환하는 이른바 ‘누디피케이션’ 서비스를 제공하거나 이를 가능하게 하는 앱과 웹사이트 운영자를 대상으로 한다. 위반 시 건당 최대 50만 달러의 민사상 책임을 부과할 수 있으며, 2026년 8월 1일부터 시행된다.
FAQ 3. 이번 소송이 AI 산업에 중요한 이유는 무엇인가?
이번 사건은 AI 기업이 이용자의 딥페이크 악용 행위에 대해 어디까지 법적 책임을 져야 하는지를 처음으로 본격적으로 다루는 사례 중 하나다. 법원의 판단에 따라 미국 다른 주들의 AI 규제 입법 방향은 물론, AI 기업들이 이미지 생성 기능에 어떤 안전장치를 도입해야 하는지에도 큰 영향을 미칠 가능성이 있다.
