미국 연방항소법원이 일론 머스크의 인공지능(AI) 기업 엑스AI(xAI)가 제기한 소송에서 미네소타주의 ‘AI 누드 합성(nudification) 금지법’ 집행을 중단했다. 다만 법률을 위헌으로 무효화한 최종 판결이 아니라, xAI의 항소가 진행되는 동안 법 집행을 멈추도록 한 잠정 조치다.
로이터는 10월 2일 “미 제8연방항소법원이 xAI의 신청을 받아들여 미네소타주의 AI 누드 합성 금지법 집행을 중단하는 금지명령을 내렸다”고 보도했다. 항소 사건은 엑스AI 대 엘리슨(X.AI LLC v. Keith Ellison, No. 26-2806)이다.
이번 결정은 1심에서 법 집행 중단에 실패했던 xAI가 항소심에서 일단 원하던 조치를 얻었다는 데 의미가 있다. 그러나 제8연방항소법원이 미네소타 법률의 합헌·위헌 여부를 최종 판단한 것은 아니다. 항소심은 xAI가 제기한 항소를 심리하는 동안 법률의 집행을 멈추게 했다.
1심은 xAI 신청 기각…헌법 쟁점 자체는 판단하지 않았다
xAI는 미네소타주가 법을 시행하기 직전인 7월 27일 소송을 냈다. 1심 사건은 엑스AI 대 엘리슨(X.AI LLC v. Ellison, Civil No. 26-3425 (DWF/DTS))이다.
그러나 1심 미네소타 연방법원 도너번 프랭크(Donovan W. Frank) 판사는 9월 4일 xAI가 요구한 예비적 금지명령(preliminary injunction)을 기각했다. 1심 결정문에 따르면 프랭크 판사는 xAI가 법 시행으로 회복하기 어려운 손해를 입는다는 점을 충분히 입증하지 못했다고 판단했다.
법이 5월 7일 서명됐는데도 xAI가 시행을 불과 며칠 앞두고 긴급 구제를 신청한 점도 불리하게 작용했다. 프랭크 판사는 xAI가 실제로 회복 불가능한 손해를 우려했다면 더 신속하게 소송과 집행정지 신청에 나섰을 것이라고 판단했다.
그러나 1심 결정은 xAI가 주장한 수정헌법 제1조 위반 여부에 대한 본안 판단은 아니었다. 프랭크 판사는 “당사자들이 xAI의 수정헌법 제1조 주장을 놓고 첨예하게 다투고 있으며 새로운 기술과 위험을 둘러싼 헌법적 문제가 복잡해 충분한 심리가 필요하다“고 밝혔다.
로이터는 9월 4일 “프랭크 판사가 xAI의 예비적 금지명령 신청을 기각해 당시에는 미네소타주의 법 집행이 계속될 수 있게 됐다”고 보도했다.
xAI는 집행 정지 기각 신청에 대해서만 제8연방항소법원에 항소했다. 로이터는 9월 14일 “xAI가 항소심이 진행되는 동안 미네소타 법률의 집행을 막아 달라고 제8연방항소법원에 요청했다”고 보도했다. 이번 결정은 바로 이 신청을 항소법원이 받아들인 것이다.
이용자가 아니라 AI 플랫폼을 직접 규제
쟁점이 된 미네소타주법 제325E.91조는 AI로 가짜 누드 이미지를 만든 개인만을 처벌하는 구조가 아니다. 생성 기능을 제공하는 AI 서비스와 소프트웨어 사업자를 직접 규제한다는 점이 핵심이다.
미네소타주 법률 원문은 ‘누디파이(nudify)’를 식별 가능한 실제 인물의 원본 사진이나 영상에 존재하지 않는 은밀한 신체 부위를 생성·합성하고, 합성 결과가 실제 해당 인물의 신체라고 합리적인 사람이 믿을 정도로 사실적인 경우로 규정한다.
웹사이트·애플리케이션·소프트웨어·프로그램이나 다른 서비스를 소유하거나 통제하는 사업자는 이용자가 이런 이미지를 만들 수 있도록 서비스를 제공하거나 이용자를 대신해 합성해서는 안 된다. 관련 서비스를 광고하거나 홍보하는 행위도 금지된다.
다만 이용자가 결과물을 만들기 위해 상당한 수준의 개별적인 기술적·예술적 능력과 판단을 직접 사용해야 하는 서비스에는 예외가 적용된다.
법 위반으로 합성 이미지의 대상이 된 피해자는 사업자를 상대로 실제 손해의 최대 3배에 해당하는 보상적 손해배상과 징벌적 손해배상 등을 청구할 수 있다. 미네소타 법무장관도 법 집행 권한을 갖는다.
미네소타주 법무부는 8월 18일 이 법의 책임은 개별 이용자가 아니라 누드 합성 기능을 제공하는 플랫폼에도 부과된다고 설명했다.
이 때문에 이번 항소법원 명령의 직접적인 영향도 단순한 게시물 삭제 문제보다 크다. 적어도 항소가 진행되는 동안 미네소타주는 제325E.91조를 근거로 AI 서비스 사업자에게 누드 합성 기능 제공을 금지하는 규제를 집행할 수 없게 됐다.
xAI “표현의 자유 침해”…미네소타 “비동의 성적 이미지 피해 차단”
소송의 핵심은 생성형 AI를 이용한 이미지 생성 기능을 정부가 어느 범위까지 사전에 제한할 수 있느냐다.
xAI는 미네소타 법률이 수정헌법 제1조가 보호하는 표현까지 콘텐츠를 기준으로 제한한다고 주장하고 있다. 합법적인 예술·풍자·교육 목적의 이미지 생성까지 규제 범위에 포함될 수 있다는 주장이다.
xAI는 또 그록 이매진(Grok Imagine)에 실제 인물을 대상으로 한 비동의 누드·성적 이미지 생성을 막는 보호장치를 운영하고 있다고 주장한다. 로이터는 9월 14일 “xAI가 그록 이매진에 실제 인물의 비동의 누드·성적 이미지 생성을 막기 위한 보호장치를 두고 있다고 주장했다”고 보도했다.
미네소타주는 플랫폼 자체를 규제하지 않으면 피해 이미지가 생성·유포된 뒤 사후 조치만으로 피해를 막기 어렵다는 입장이다.
미네소타주 법무부에 따르면 주 의회에서 이 법안은 하원에서 132대 1, 상원에서 65대 0으로 통과됐다. 팀 월즈(Tim Walz) 주지사가 5월 7일 서명했고 8월 1일 시행됐다.
프랭크 판사도 1심 결정에서 미네소타주가 AI 누드 합성 기술과 사실적인 성적 이미지 확산으로부터 주민을 보호할 공익을 갖고 있다고 판단했다. 다만 이는 예비적 금지명령을 둘러싼 형평성 판단으로, 법률의 합헌성을 확정한 판단은 아니다.
법 폐기 아니다…항소 결과와 1심 본안 모두 남아
이번 결정에서 가장 주의할 부분은 법률의 현재 상태다.
제8연방항소법원은 미네소타주법 관련 조항(제325E.91조)을 폐기하지 않았다. 법률이 수정헌법 제1조를 위반한다고 최종 확정한 것도 아니다. xAI가 1심의 예비적 금지명령 기각 결정에 불복해 항소한 상태에서 항소가 진행되는 동안 법 집행을 멈추도록 한 것이다.
이번 명령이 미국 전체의 AI 딥페이크 규제를 중단시키는 것도 아니다. 소송의 직접 대상은 미네소타주법이다. 다른 주의 비동의 성적 이미지나 딥페이크 관련 법률에는 이번 명령이 직접 적용되지 않는다.
다만 미네소타 법은 이용자의 불법적인 이미지 제작 행위를 사후 처벌하는 데서 나아가 AI 제품 자체가 해당 기능을 제공하지 못하도록 사업자에게 의무를 부과한다. 이에 따라 이 소송에서는 AI 생성 기능 자체에 대한 주 정부의 규제와 수정헌법 제1조상 표현의 자유가 충돌할 때 어느 범위까지 규제가 허용되는지가 계속 쟁점으로 다뤄질 것으로 알려졌다.
미네소타주 법무부 존 스타일스(John Stiles) 대변인은 10월 2일 로이터에 “미네소타의 누드 합성 금지법은 사람들에게 피해를 주고 가장 악랄한 방식으로 괴롭히는 성적 이미지를 AI 기술 제품이 생성하는 것을 금지한다”(“Minnesota’s nudification ban outlaws AI technology products from generating sexual images that harm and harass people in the vilest way possible”)고 말했다.
Q&A
Q1. 제8연방항소법원이 미네소타 법률을 위헌이라고 판결한 것인가?
아니다. 현재 결정은 xAI의 항소가 진행되는 동안 법 집행을 중단시키는 잠정적인 금지명령이다. 법률 자체를 무효화한 최종 본안 판결이 아니다.
Q2. 1심과 항소심 판단이 왜 달라졌나?
1심은 xAI가 회복 불가능한 손해를 충분히 입증하지 못했고 법 시행 직전까지 소송을 늦춘 점 등을 이유로 예비적 금지명령을 기각했다. 제8연방항소법원은 이후 xAI의 신청을 받아들여 항소가 진행되는 동안 법 집행을 중단했다. 현재 단계에서 항소법원이 수정헌법 제1조 쟁점에 대해 최종 판단을 내린 것은 아니다.
Q3. 이번 소송이 다른 AI 기업에도 중요한 이유는 무엇인가?
미네소타 법은 불법 합성 이미지를 제작한 이용자만을 규제하지 않고 웹사이트·앱·소프트웨어 등 AI 서비스를 제공하는 사업자에게 누드 합성 기능을 제공하지 않을 의무를 직접 부과한다. 따라서 소송 결과는 유사한 플랫폼 규제를 검토하는 다른 주에서 참고될 수 있지만, 이번 명령 자체가 다른 주의 법률을 중단시키지는 않는다.
