핵심 요약
미국 애리조나주 항소법원이 사망한 피해자의 얼굴과 목소리를 인공지능(AI)으로 재현해 법정에서 피해자 의견을 전달하도록 한 영상에 제동을 걸었다. AI 사용 사실을 공개했더라도 실제 피해자가 하지 않은 말을 피해자 본인의 말처럼 제시하고 법관이 이를 형량 결정에 고려했다면 적법절차를 침해할 수 있다는 것이다.
애리조나주 항소법원 제1부(Arizona Court of Appeals, Division One)는 9월 30일 애리조나주 대 가브리엘 폴 호르카시타스 사건(State of Arizona v. Gabriel Paul Horcasitas, 1 CA-CR 25-0191) 항소심에서 과실치사 유죄판결은 유지하면서 1심의 징역 10년 6개월 형을 취소하고 재선고하라고 명령했다.
호르카시타스는 2021년 도로에서 시비가 붙은 크리스토퍼 펠키(Christopher Pelkey)를 총으로 쏴 숨지게 한 혐의로 기소됐다. 배심원은 정당방위 주장을 받아들이지 않고 과실치사 혐의에 유죄 평결을 내렸다.
피해자 가족이 쓴 말을 AI 피해자가 직접 전달
문제는 2025년 5월 1일 1심 형 선고 절차에서 발생했다. 펠키의 가족은 그의 얼굴과 목소리를 AI로 재현한 영상을 법정에서 상영했다.
영상 속 AI 펠키는 사진과 음성 프로필을 이용해 AI로 재현됐다는 사실을 먼저 밝혔다. 이어 자신이 법정에서 묘사된 것과 달리 실제 자신을 보여주는 영상이라고 말하고 호르카시타스에게 용서의 뜻을 전했다.
그러나 이 발언은 생전 펠키가 작성하거나 녹음한 것이 아니었다. 그의 여동생 스테이시 웨일스(Stacey Wales)가 자신이 알고 있던 동생의 성격과 신앙 등을 토대로 작성한 내용이었다.
AP통신은 2025년 5월 “이 영상이 미국 법정에서 사망한 피해자를 AI로 재현해 피해자 의견을 전달한 첫 사례로 평가된다“고 보도했다. NPR도 당시 AI 전문가들을 인용해 “미국에서 사망한 피해자를 AI로 재현해 피해자 의견을 읽도록 한 첫 사례일 가능성이 있다“고 했다.
1심 판사 “진심이었다”…주 항소법원은 신뢰성 문제 지적
1심을 맡은 토드 랭(Todd F. Lang) 판사는 영상에 강한 인상을 받았다는 점을 선고 과정에서 밝혔다. 랭 판사는 AI 영상에서 표현된 용서를 실제 피해자의 성품과 연결해 받아들였고 이후 징역 10년 6개월을 선고했다.
항소법원은 바로 이 부분을 문제 삼았다. 피해자의 실제 영상은 허용될 수 있지만 AI로 생성된 부분은 실제 사건이나 피해자가 실제로 한 말을 기록한 것이 아니라고 판단했다.
재판부는 AI라는 사실을 영상에서 공개했다는 점도 이 문제를 해결하지 못한다고 보고 “어떤 고지문도 그 오류를 치유할 수 없다(No disclaimer could cure that error)”고 판시했다.
특히 재판부는 “AI 영상이 가족이 생각한 ‘피해자가 했을 법한 말’과 피해자 자신의 실제 의견 사이의 거리를 없앴다“고 지적했다. 얼굴 표정과 목소리까지 피해자의 것으로 재현하면서 가족이 작성한 내용이 피해자 본인의 발언처럼 전달됐다는 것이다.
재판부는 “AI 영상이 형량 결정에 정확히 어느 정도 영향을 미쳤는지는 기록만으로 알 수 없지만 1심 판사가 영상을 진실한 것으로 받아들인 이상 영향을 미쳤다는 점에는 의문이 없다“고 판단했다. 이에 AI 영상의 제시와 고려를 ‘근본적 오류(fundamental error)’로 보고 선고 절차가 근본적으로 불공정해졌다고 결론 냈다.
로이터는 9월 30일 “애리조나주 항소법원이 AI로 생성된 피해자 영상을 판사가 부적절하게 고려했다고 판단해 호르카시타스에 대한 새로운 형 선고 절차를 명령했다”고 보도했다.
‘AI라고 밝혔느냐’만으로 해결되지 않은 쟁점
이번 사건은 AI 영상을 실제 영상으로 속여 제출한 사건과 차이가 있다. 펠키 영상은 처음부터 AI로 만들어졌다는 사실을 공개했다. 그럼에도 애리조나주 항소법원은 AI 표시 자체만으로 신뢰성 문제가 해결되지 않는다고 판단했다.
2025년 캘리포니아의 멘도네스 대 쿠시먼앤드웨이크필드 사건(Mendones v. Cushman & Wakefield, Inc., No. 23CV028772)에서는 원고들이 생성형 AI로 만든 증인 영상 등을 실제 증거처럼 제출한 사실이 문제가 됐다. 법원은 2025년 9월 9일 소송을 각하하면서 생성형 AI를 이용해 만든 딥페이크를 증거로 통과시키려는 행위에 대해 용인하지 않을 것이라고 밝혔다. 미국 연방법원 증거규칙 자문위원회에 제출된 2026년 규칙 제안 자료도 이 사건을 AI 조작 증거 문제의 사례로 다뤘다.
AI 증거를 둘러싼 제도 논의도 진행되고 있다. 미국 연방법원은 5월 5일 AI 생성·가공 증거에 관한 설명 자료에서 AI 증거가 진정성 인증(authentication), 신뢰성, 증거 채택의 기초를 둘러싼 문제를 제기하고 있다고 밝혔다.
로이터는 5월 7일 “미 연방 사법회의 증거규칙 자문위원회가 AI 생성 증거와 딥페이크를 규율하기 위한 증거규칙 개정 논의를 진행했지만 위원들 사이의 이견으로 결정을 미뤘다”고 보도했다.
애리조나주 항소법원은 이번 사건에서 AI로 만든 피해자 의견을 일률적으로 금지하는 일반 규칙을 만들지는 않았다.
Q&A
Q1. 애리조나주 항소법원은 연방법원인가?
아니다. 애리조나주 항소법원(Arizona Court of Appeals)은 미국 연방 사법체계가 아니라 애리조나주 사법체계에 속한다. 이번 판결은 애리조나주 항소법원 제1부가 내렸다.
Q2. 항소법원이 호르카시타스의 유죄판결도 취소했나?
아니다. 과실치사 유죄판결은 유지했다. 취소된 것은 징역 10년 6개월의 형이다. 사건은 새로운 형을 정하기 위한 재선고 절차로 돌아간다.
Q3. 법원은 AI로 만든 피해자 영상을 앞으로 모두 금지한 것인가?
아니다. 판결은 이 사건의 영상과 선고 절차를 판단했다. 특히 가족이 작성한 내용을 AI가 피해자 자신의 얼굴과 목소리로 말하면서 실제 피해자의 의견처럼 전달한 점과 1심 판사가 이를 신뢰해 고려한 점이 핵심이었다.
