기사 목차 펼치기 / 접기
일론 머스크의 인공지능(AI) 기업 엑스AI(xAI)가 사람의 사진을 가짜 나체·성적 이미지로 바꾸는 AI 기술을 금지한 미국 미네소타주 법의 시행을 막으려 했지만 법원이 받아들이지 않았다. AI가 생성하는 이미지도 표현의 자유로 보호해야 한다는 xAI와, 피해가 발생하기 전에 위험한 AI 기능 자체를 규제할 수 있다는 주 정부가 맞붙은 사건이다.
미국 미네소타 연방지방법원의 도너번 프랭크(Donovan W. Frank) 판사는 4일 xAI 대 엘리슨(X.AI LLC v. Ellison, 0:26-cv-03425-DWF-DTS) 사건에서 xAI가 신청한 예비적 금지명령(preliminary injunction)을 기각했다. 법원 결정문에 따르면 법원은 “xAI가 본안 소송이 진행되는 동안 법 시행을 중단해야 할 정도의 ‘회복할 수 없는 손해(irreparable harm)’를 입증하지 못했다”고 밝혔다.
이에 따라 지난달 1일부터 시행된 미네소타주의 이른바 ‘AI 누드 합성 금지법’은 본안 소송이 진행되는 동안에도 계속 효력을 유지한다. xAI는 이번 결정에 불복해 세인트루이스에 있는 제8연방항소법원에 항소하겠다는 뜻을 밝혔다고 로이터가 4일 보도했다.
다만 이번 결정은 법원이 미네소타 법을 합헌이라고 최종 판단했다는 뜻은 아니다. 프랭크 판사는 xAI가 제기한 표현의 자유 침해 문제에 대해 “당사자들이 제기한 헌법적 쟁점은 복잡하며, 특히 이 새로운 기술과 그것이 대중에게 제기하는 위험이라는 맥락에서 그렇다”고 밝혔다. 법이 미국 수정헌법 제1조에 위배되는지는 앞으로 본안에서 별도로 다뤄진다.
사진 속 사람을 AI로 벗기는 ‘누드 합성’ 규제
쟁점이 된 법은 미네소타 법률 제325E.91조(Minn. Stat. § 325E.91)다. 미네소타주 의회가 처리한 하원법안 1606(H.F. 1606)을 토대로 만들어졌으며, 8월1일부터 시행됐다.
미네소타주 법률개정국의 법안 원문을 보면 법은 ‘누드 합성(nudify 또는 nudified)’을 식별 가능한 사람의 원본 사진이나 영상에 나타나지 않았던 신체의 은밀한 부위를 새로 생성하거나 변형하고, 그 결과물이 합리적인 사람이 실제 그 사람의 신체라고 믿을 정도로 사실적인 경우로 규정한다.
단순히 사진에 옷이 없는 것처럼 보이게 만드는 기술만을 뜻하는 것은 아니다. 실제 사람의 사진이나 영상을 바탕으로 원래 존재하지 않았던 성적 신체 이미지를 사실적으로 생성하는 AI 기술까지 포함한다.
법의 특징은 가짜 누드 이미지를 직접 만든 이용자만 규제하는 데 그치지 않는다는 점이다. 법에 따르면, 웹사이트·애플리케이션·소프트웨어·프로그램 등 서비스를 소유하거나 통제하는 사업자는 이용자가 서비스를 이용해 이런 누드 합성을 하도록 허용하거나 이용자를 대신해 이미지를 누드 합성해서는 안 된다. 이런 서비스를 광고하거나 홍보하는 행위도 금지한다.
이 때문에 법의 초점은 이미 만들어진 불법 이미지의 유포를 처벌하는 것에서 한 단계 더 나아가 있다. 특정한 AI 생성 기능을 이용자에게 제공하는 행위 자체를 규제한다.
xAI “이미지 내용에 따라 표현을 막는 법”
xAI는 이 법이 미국 수정헌법 제1조가 보호하는 표현의 자유를 침해한다고 주장하고 있다. 특정한 내용의 이미지를 생성하지 못하게 하는 ‘내용 기반 규제(content-based restriction)’이기 때문에 엄격한 헌법 심사를 받아야 한다는 논리다.
반면 미네소타주는 일반적인 AI 이미지 생성을 막는 것이 아니라 실제 사람을 대상으로 한 사실적인 성적 합성 이미지가 만들어지는 것을 차단하기 위한 제한적인 규제라고 맞서고 있다.
미네소타주 법무장관실은 지난달 법원에 제출한 반대 의견에서 “xAI가 예비적 금지명령에 필요한 회복 불가능한 손해를 입증하지 못했으며 본안에서도 승소 가능성을 충분히 보여주지 못했다”고 주장했다.
결국 이 소송에서는 AI가 생성하는 이미지가 수정헌법 제1조의 보호를 어느 범위까지 받을 수 있는지와 함께, 주 정부가 피해 방지를 위해 생성형 AI 서비스의 기능 자체를 어느 단계에서 규제할 수 있는지가 핵심 쟁점이 될 전망이다.
법원, 합헌 여부보다 ‘당장 입을 손해’부터 판단
프랭크 판사는 이번 단계에서 이 헌법 문제에 최종 결론을 내리지 않았다. 대신 본안 판결이 나오기 전에 법 시행을 중단시키려면 xAI가 어떤 손해를 입는지를 입증해야 한다고 봤다.
결정문에 따르면 법원은 xAI가 법 시행을 막기 위해 충분히 신속하게 움직이지 않았다는 점도 지적했다. xAI가 주장하는 피해가 실제로 급박하고 회복하기 어려운 것이었다면 더 일찍 법적 대응에 나설 수 있었다는 것이다.
xAI는 법 시행에 맞춰 자사의 그록 이매진(Grok Imagine) 이미지 편집 기능에 미네소타 이용자를 대상으로 추가 통제 장치를 적용했다. 회사는 이런 조치가 이용자 경험을 떨어뜨리고 사업에 손해를 줄 수 있다고 주장했다.
그러나 법원은 이용자와 사업 감소에 관한 xAI의 주장이 아직 추측적인 수준이라고 판단했다. 법 준수에 따른 금전적 비용 역시 일반적으로 예비적 금지명령을 내려야 할 회복 불가능한 손해에 해당하지 않는다고 봤다.
법원은 앞서 7월에도 xAI가 법 시행을 당장 막아 달라며 신청한 임시제한명령(temporary restraining order)을 받아들이지 않았다. 미네소타주 법무장관실에 따르면 이 법은 주 상·하원에서 모두 압도적인 지지를 받았으며 전체 의원 가운데 197명이 찬성하고 1명만 반대했다.
법원 “공공 피해 막는 이익도 고려해야”
법원은 법을 중단할 경우 발생할 수 있는 공익상 피해에도 무게를 뒀다.
프랭크 판사는 “손해의 균형과 공익이 미네소타주 쪽으로 크게 기운다”고 판단했다. 실제 사람을 이용해 만든 사실적인 성적 합성 이미지가 피해자의 사생활과 안전에 심각한 영향을 줄 수 있다는 주 정부의 입법 목적을 고려한 것이다.
키스 엘리슨(Keith Ellison) 미네소타주 법무장관도 4일 이번 결정을 환영하면서 “누드 합성 앱이 아동 성착취물을 생성하고 사람들을 괴롭히는 데 이용돼 왔다”고 밝혔다고 로이터는 전했다.
이 사건은 생성형 AI 규제에서 누구에게 책임을 물을 것인가라는 문제와도 연결된다. 가짜 성적 이미지를 직접 생성하거나 유포한 이용자만 처벌할 것인지, 그런 이미지를 쉽게 만들 수 있는 기능을 제공한 AI 사업자에게도 사전적으로 책임을 부과할 것인지가 쟁점이다.
그록의 성적 이미지 논란 뒤 규제와 소송 잇따라
xAI의 챗봇 그록(Grok)은 올해 성적으로 노골적인 이미지를 생성하는 기능을 둘러싸고 논란을 겪고 있다. 로이터는 1월 그록을 이용해 미성년자를 포함한 사람들의 성적 이미지가 만들어졌다는 비판과 함께 각국 규제당국이 안전장치 강화를 요구하고 있다고 보도했다.
xAI 역시 자사 서비스가 비동의 성적 이미지를 만드는 데 이용되는 문제에 대응하고 있다. 회사는 그록의 기술적 차단 장치를 우회해 실제 사람의 성적 이미지를 만들었다고 주장하며 일부 이용자를 상대로 직접 소송을 제기했다. 로이터는 7월 xAI가 이런 이용자를 상대로 법적 대응에 나섰다고 보도했다.
따라서 xAI는 한편으로는 자사 AI의 안전장치를 우회해 비동의 성적 이미지를 만드는 이용자를 법적으로 문제 삼으면서, 다른 한편으로는 AI 서비스 제공자에게 누드 합성 기능 차단 의무를 부과한 미네소타 법에는 표현의 자유를 이유로 위헌 소송을 제기한 것이다.
이번 결정은 어느 쪽 주장이 헌법적으로 옳은지에 대한 최종 판단은 아니다. xAI는 예비적 금지명령 기각 결정에 항소할 방침이며, 미네소타 연방지방법원에서도 본안 심리가 계속된다. AI가 만든 성적 합성물의 피해를 막기 위해 생성 결과물이 아니라 생성 기능 자체를 규제할 수 있는지를 둘러싼 법적 판단은 앞으로 항소심과 본안에서 구체화될 전망이다.
Q&A
Q1. 법원이 미네소타의 AI 누드 합성 금지법이 합헌이라고 판결한 것인가?
아니다. 법원은 이번 결정에서 법의 최종적인 합헌 여부를 판단하지 않았다. xAI가 본안 판결 전까지 법 집행을 중단시키기 위해 신청한 예비적 금지명령을 기각했다. 수정헌법 제1조 위반 여부는 본안에서 추가 심리된다.
Q2. ‘누드 합성’은 일반적인 딥페이크와 무엇이 다른가?
이 법에서 누드 합성은 식별 가능한 실제 사람의 이미지나 영상을 바꿔 원래 존재하지 않았던 은밀한 신체 부위를 사실적으로 만들어내는 것을 말한다. 딥페이크가 얼굴·음성·행동 등을 조작하는 넓은 개념이라면 누드 합성은 그중 성적 이미지 생성에 초점을 맞춘 개념이다.
Q3. 미네소타 법은 AI 이용자만 처벌하는가?
아니다. 오히려 이 사건의 핵심은 AI 서비스를 제공하는 사업자에게 직접 의무를 부과한다는 데 있다. 웹사이트나 앱, 소프트웨어 등의 운영자가 이용자에게 누드화 기능을 사용하도록 허용하는 행위 자체를 금지한다.
Q4. xAI는 왜 표현의 자유를 주장하는가?
xAI는 미네소타 법이 이미지의 내용에 따라 무엇을 생성할 수 있는지를 결정하기 때문에 수정헌법 제1조가 엄격하게 심사해야 하는 ‘내용 기반 규제’라고 주장한다. 또 규제 범위가 비동의 음란물뿐 아니라 예술·풍자·합의된 이미지 등 보호받을 수 있는 표현까지 포함할 수 있다고 주장하고 있다. 이는 아직 법원의 최종 판단을 받은 주장이 아니다.
Q5. 이번 결정이 다른 AI 기업에도 영향을 미칠 수 있나?
미네소타 법은 xAI만을 대상으로 하지 않는다. 법이 정한 누드 합성 기능을 이용자에게 제공하는 웹사이트·앱·소프트웨어 등의 운영자에게 적용될 수 있다. 향후 항소심이나 본안에서 법의 합헌성이 인정된다면 다른 주가 생성형 AI 서비스 제공 단계에서 사업자 책임을 부과하는 입법을 검토할 때 참고 사례가 될 수 있다.
