핵심 요약
미 제10항소법원(U.S. Court of Appeals for the Tenth Circuit)이 생성형 인공지능(AI)을 이용해 작성한 서면의 판례와 인용, 법률 분석을 사람이 직접 검증하도록 하는 규칙을 추진한다. 확정되면 미국 13개 연방 항소법원 가운데 이런 검증 의무를 법원 전체 규칙으로 채택하는 첫 사례가 된다. 가짜 판례 등을 사후 제재하는 데서 나아가 제출 단계에서 검증 책임을 명문화하는 것이다.
로이터는 9월 18일 “덴버에 있는 제10항소법원이 생성형 AI의 도움으로 작성된 법원 제출 문서를 사람이 정확성 측면에서 검토했음을 인증하도록 하는 규칙안을 내놨다”고 보도했다. 확정되면 2027년 1월 1일부터 제10항소법원에 제출되는 서면에 적용된다.
제10항소법원은 콜로라도·캔자스·오클라호마·뉴멕시코·유타·와이오밍 등 6개 주의 연방 사건 항소를 관할한다. 다만 이번 규칙은 이들 주의 연방지방법원이나 주법원에는 직접 적용되지 않는다.
AI 서면, 판례 존재부터 법률 분석까지 사람이 확인
공개된 제10항소법원의 2027년 규칙 개정안은 제10항소법원 규칙 46.5(B)에 생성형 AI 관련 조항을 추가했다.
개정안에 따르면, AI의 도움으로 작성된 문서는 제출 전에 사람이 검토해야 한다. 인용한 모든 법적 근거(authorities)가 실제 존재하는지, 인용문과 인용표시, 법률 분석이 정확한지, 법원 규칙과 윤리 의무를 준수하는지를 독립적으로 확인해야 한다. AI 사용 자체를 금지하기보다 결과물에 대한 최종 책임을 제출자에게 두는 방식이다.
위반하면 금전 제재와 변호사 징계뿐 아니라 항소 기각 또는 원심 확정, 해당 쟁점의 포기 처리, 서면 삭제(striking) 등이 가능하다. 제10항소법원은 10월 18일까지 의견을 받고 12월 1일까지 규칙을 확정할 예정이다. 현재는 공개 의견수렴 단계다.
연방항소법원에서 이런 규칙이 처음 논의된 것은 아니다. 제5항소법원(U.S. Court of Appeals for the Fifth Circuit)이 2023년 유사한 AI 인증 규칙을 제안했지만 변호사들의 반대에 부딪혀 철회했다. 로이터는 2024년 6월 “제5항소법원이 변호사들의 반대 이후 AI 규칙 도입 계획을 철회했다”고 보도했다.
제10항소법원에서도 이미 ‘AI 가짜 판례’로 변호사 제재
이번 규칙안에 앞서 제10항소법원에서는 실제 AI 오류 사건이 발생했다.
지난 2월 제10항소법원은 ‘암싱 대 프런티어항공 사건(Amarsingh v. Frontier Airlines, Inc., No. 24-1391)’에서 생성형 AI를 이용해 항소이유서를 작성하면서 존재하지 않는 판례와 잘못된 법률 내용을 제출한 변호사에게 1000달러(약 140만원)를 상대방에게 지급하도록 하고 관련 기록을 변호사 징계기관에 보냈다.
법원이 공개한 판결문은 생성형 AI를 법률 업무에 사용하는 것 자체가 문제는 아니지만 부주의한 사용은 법원과 상대방의 시간·비용을 낭비하고 법률 시스템에 대한 신뢰를 훼손할 수 있다고 지적했다.
제10항소법원 서기관 크리스토퍼 울퍼트(Christopher M. Wolpert)는 로이터에 “변호사에게 제출 문서를 검토할 기존 의무가 있는데도 AI 작성 서면에서 제대로 이행되지 않고 있다”고 설명했다.
‘AI 오류’ 최소 1395건…가짜 판례 넘어 증인·증언까지
이런 문제는 제10항소법원에 국한되지 않는다.
로이터는 9월 18일 “AI가 만든 허위·오인·오인용 자료가 미국 주·연방법원 최소 1395건에서 발견됐으며 문제가 변호사 서면을 넘어 법원 결정문, 전문가 증언, 검찰 서면으로까지 번지고 있다”고 보도했다. 이 수치는 미국 사법부 공식 통계가 아니라 관련 사건을 추적하는 연구자 다미앵 샤를로탱(Damien Charlotin)의 데이터베이스 집계다.
오류의 성격도 판례와 사건번호를 잘못 인용하는 수준을 넘어서고 있다. 로이터는 9월 11일 “뉴멕시코주 대법원이 살인사건 항소이유서에 챗GPT(ChatGPT)가 만들어낸 허위 경찰 증언과 존재하지 않는 증인들이 포함된 사실을 확인하고 변호사 스티븐 애런스(Stephen Aarons)를 법정모독으로 판단해 5000달러(약 700만원)의 제재금을 부과했다”고 보도했다.
애런스는 재판 기록과 다른 자료를 챗GPT에 입력해 재판 과정을 요약하도록 했지만 결과물을 확인하지 않은 채 제출했다. 뉴멕시코주 대법원은 서면에 실제로 존재하지 않는 증인들의 허위 증언이 포함됐다고 밝혔다. 법률 리서치 과정에서 가짜 판례를 만들어내는 데 그치지 않고 사건 기록에 존재하지 않는 사실관계까지 생성할 수 있다는 위험이 실제 형사사건에서 드러난 것이다.
허위 판례가 없어도 문제가 될 수 있다. 로이터는 9월 17일 “플로리다 제4지구항소법원이 생성형 AI 결과물의 특징을 보이는 서면을 제출한 변호사에게 제재하지 말아야 할 이유를 설명하라고 명령했다”고 보도했다.
이 사건에서는 가짜 판례나 허위 인용이 발견되지 않았다. 법원은 대신 서면이 산만하고 이해하기 어려우며 변호사에게 요구되는 독립적인 전문적 판단이 부족하다는 점을 문제 삼았다. 법원의 관심이 AI의 사실 오류뿐 아니라 변호사가 결과물을 실질적으로 검토했는지로 넓어지고 있다는 점을 보여주는 사례다.
주법원은 이미 시행…AI 공개보다 ‘결과 책임’에 무게
주법원에서는 이미 서로 다른 방식의 AI 관련 규칙이 시행되고 있다.
오클라호마 형사항소법원(Oklahoma Court of Criminal Appeals)의 Rule 1.17은 생성형 AI가 문서 작성에 사용된 경우 AI가 생성하거나 수정한 부분을 사람이 검증하도록 한다. 위반하면 해당 항소 쟁점의 포기 처리, 서면 삭제, 법정모독 등의 제재가 가능하다.
플로리다는 AI 사용 여부보다 결과물의 정확성을 직접 보증하도록 했다. 플로리다 대법원(Florida Supreme Court)이 개정해 6월 15일부터 시행한 Florida Rule of General Practice and Judicial Administration 2.515에 따라 법원 문서에 서명하는 사람은 인용한 법적 권위가 실제 존재하고 정확하게 인용됐음을 보증해야 한다.
반면 6월부터 시행된 뉴욕주 법원의 Part 161은 AI를 사용했다는 이유만으로 그 사실을 공개하도록 요구하지 않는 것을 원칙으로 한다. AI 사용 여부와 관계없이 제출물의 정확성에 관한 기존 책임을 적용한다는 접근이다.
이처럼 미국 법원의 대응은 AI 사용 자체를 금지하기보다 인간 검증과 결과물의 정확성에 대한 책임을 어떻게 제도화할 것인지에 무게가 실리고 있다.
연방지방법원도 별도 규칙…전국 단일 기준은 아직 없다
연방지방법원에서도 자체적인 AI 규칙과 상시명령이 나오고 있다.
제10항소법원 관할의 캔자스 연방지방법원(U.S. District Court for the District of Kansas)은 올해 AI를 이용한 법원 제출 문서에 관한 상시명령(Standing Order 26-01)을 마련했다. 제10항소법원 규칙이 관할 지역의 연방지방법원에 자동 적용되는 것이 아니라 각 법원이 별도의 기준을 운용하고 있다는 사례다.
미국변호사협회(American Bar Association·ABA)도 2024년 공식 윤리의견 512(Formal Opinion 512)에서 생성형 AI를 사용하는 변호사에게 직무능력(competence), 비밀유지(confidentiality), 의뢰인과의 소통, 법원에 대한 진실성(candor) 등 기존 윤리 의무가 그대로 적용된다고 밝혔다.
제10항소법원 규칙안은 이처럼 기존 윤리 의무에 맡겨졌던 AI 결과물 검증을 법원 규칙에 구체적으로 명시하려는 조치다. 울퍼트 서기관은 변호사들이 제출 문서를 정확하게 검토해야 한다는 기존 의무가 AI 작성 서면에서 제대로 이행되고 있지 않은 상황에 대해 로이터에 “분명히, 그런 검토가 이뤄지지 않고 있다(Clearly, that’s not happening)”고 말했다.
Q&A
Q. 제10항소법원은 생성형 AI 사용을 금지하나?
아니다. AI를 이용한 문서를 제출하기 전 사람이 판례의 존재와 인용·법률 분석의 정확성 등을 검증하도록 하는 규칙이다.
Q. 관할 6개 주의 모든 법원에 적용되나?
아니다. 확정되면 제10항소법원에 제출되는 문서에 적용된다. 콜로라도·캔자스·오클라호마·뉴멕시코·유타·와이오밍의 연방지방법원이나 주법원에는 직접 적용되지 않는다.
Q. 제10항소법원이 처음 이런 규칙을 추진했나?
아니다. 제5항소법원이 2023년 유사한 규칙안을 먼저 제안했지만 이듬해 철회했다. 제10항소법원 규칙안이 확정되면 미국 연방 항소법원에서 실제 채택되는 첫 사례가 된다.
Q. 미국 법원 전체에 통일된 AI 서면 규칙이 있나?
아직 없다. 연방 항소법원과 연방지방법원, 주법원이 각기 다른 기준을 운용하고 있다. 오클라호마는 AI 생성 부분의 인간 검증, 플로리다는 법적 인용의 존재와 정확성 보증, 뉴욕은 AI 사용 여부와 관계없는 기존 제출자 책임에 초점을 두고 있다.
