핵심 요약
AI 요약
기사 목차 펼치기 / 접기
미국 판사들이 생성형 인공지능(AI)을 재판 업무에 직접 사용하며 성능과 위험을 검증하는 실험이 확대되고 있다. 소송서류를 요약하거나 판결문의 일부를 작성할 때는 업무 시간을 줄일 수 있었지만, 판례 검색과 판결문 전체 작성에서는 허위 법률 정보가 생성되는 문제가 나타났다.
미국 법률 전문매체 로닷컴(Law.com)은 최근 “펜실베니아대가 법관과 법원 구성원의 AI 활용 역량을 높이기 위한 프로그램을 운영하고 있다”고 보도했다. 이 프로그램은 법관과 재판연구원들이 AI를 실제로 사용하면서 활용 가능한 업무와 위험한 업무를 구분하도록 하는 데 초점을 맞추고 있다.
지난 10월 펜실베니아대 캐리 로스쿨(Penn Carey Law) 공식 발표에 따르면 2024년 가을 판사 6명 정도로 시작한 이 실험은 펜실베이니아 동부연방법원, 뉴저지 연방법원, 제3연방항소법원, 델라웨어 형평법원, 메릴랜드주 사법기관 등 약 25개 재판부로 확대됐다.
대학은 참여 재판부에 AI 사용 환경과 교육 자료를 제공하고, 판사와 재판연구원들이 사용 경험을 공유하도록 하고 있다. 실제 사건을 처리하는 과정에서 어떤 업무에 AI가 도움이 됐고 어떤 오류가 발생했는지를 수집해 교육에 반영하는 방식이다.
판결문을 통째로 작성시키자 허위 정보…부분 작성은 효과
실습에서 가장 뚜렷하게 드러난 차이는 AI에 맡기는 업무의 범위였다.
대학이 공개한 사법부 AI 실습 결과에 따르면 AI는 양측 준비서면의 쟁점 정리, 소송 진행 경과 작성, 사건 기록의 시간순 정리, 구술변론 질문 생성, 판결문 교정 등에서 유용했다.
반면 판결문 전체를 한 번에 작성하도록 하면 존재하지 않는 사실이나 법률 근거를 만들어내는 문제가 발생했다. AI에 독자적으로 판례를 검색하도록 했을 때도 허위 판례 인용이 빈번했다. 복잡하거나 새로운 법률 쟁점에 관한 분석 역시 신뢰성이 낮았다.
이에 대학은 판결문 전체 작성보다 쟁점별·항목별 초안 작성을 권장하고 있다. AI가 법률 판단을 대신하는 것이 아니라 법관이 이미 확보한 사건 기록을 정리하고 문서를 작성하는 일을 보조하도록 하는 것이다.
지난 8월 28일에는 법관과 법원 직원을 위한 사법 AI 포털도 공개했다. 이 포털은 재판 업무를 AI 사용 위험에 따라 분류하고, 기밀정보 보호와 결과 검증 방법을 설명한다.
포털은 법원이 허용한 도구만 사용해야 하며, 법원 자료나 이메일 등에 AI 에이전트를 무단으로 연결해서는 안 된다고 안내한다. 일반 상용 AI 도구를 사용할 때도 비공개 사건 기록이나 보호 대상 정보를 입력하지 않도록 주의를 요구한다.
법관의 AI 활용 늘자 허위 판례와 책임 문제 부상
법원 내부에서 AI 활용을 확대하는 움직임은 변호사와 소송 당사자들이 제출하는 AI 생성 문서의 신뢰 문제와 맞물려 있다.
AI가 작성한 소송서류에 존재하지 않는 판례나 잘못된 인용문이 포함되면 법원은 이를 확인하는 데 별도의 시간과 인력을 투입해야 한다. 판사와 재판연구원들이 AI의 오류를 직접 경험하고 식별할 수 있어야 하기 때문이다.
미국 전미주법원센터(National Center for State Courts·NCSC)는 3월 13일 공개한 법관의 생성형 AI 활용 연구보고서에서 미국 10개 주의 주·연방법관 13명을 인터뷰한 결과를 발표했다.
조사에 참여한 법관들은 소송서류 요약, 법원 문서 작성, 일반인을 위한 판결 설명 등에 AI를 사용하고 있었다. 반복 업무를 줄이는 효과를 인정하면서도 허위 정보 생성, 개인정보 유출, AI에 대한 과도한 의존을 주요 위험으로 지목했다.
특히 변호사 없이 소송하는 당사자들이 AI를 이용해 방대한 서류를 제출하면 법원의 업무 부담이 오히려 커질 수 있다는 우려도 제기됐다.
법관들은 AI 활용 방식에 차이가 있었지만, 최종적인 법률 판단과 재판 결과는 반드시 인간 법관이 결정해야 한다는 데 의견을 같이했다.
AI 사용, 재판부의 검증·통제 체계 마련 필수
펜실베니아대의 프로그램은 법관에게 AI 사용법을 가르치는 데 그치지 않는다. AI가 작성한 문서에서 오류를 찾아내는 방법, 비공개 사건 기록을 보호하는 방법, 재판부 내부에서 AI 사용을 관리하는 방법까지 다룬다.
이 대학의 사법 AI 포털은 법관이 점검해야 할 사항으로 재판연구원과 직원들이 사용하는 AI 도구, 허용되는 업무와 금지되는 자료, AI 생성 정보의 검증 절차, 기밀정보 유출 시 대응 방법 등을 제시하고 있다.
AI를 활용한 사실을 소송 당사자나 일반인에게 어느 범위까지 공개해야 하는지도 논의 대상이다. 다만 포털은 법원마다 정책과 접근 방식이 다르며, 공개 의무에 관해 통일된 기준이 마련된 것은 아니라고 설명한다.
이 프로그램을 이끄는 폴크 와그너(R. Polk Wagner) 교수는 “AI가 준비서면 요약이나 소송 경과 작성처럼 사건 기록에 밀접한 업무에서는 실제 시간을 절약해 준다“고 평가했다. 그러나 “AI가 독자적으로 법률을 찾아내는 작업에서는 신뢰성이 떨어진다“고 지적했다. 와그너 교수는 “참여 법관들이 이러한 문제를 직접 경험했다“면서 “가장 중요한 것은 우리가 함께 일하는 판사들이 그 사실을 알고 있으며, 직접 확인했기 때문에 알고 있다는 점”이라고 말했다.
Q&A
Q1. 미국 법관은 AI로 판결문을 작성할 수 있나?
법원별 정책과 사용 목적에 따라 다르다. 판결문 일부의 초안 작성이나 문장 교정 등에 AI를 활용할 수 있지만, 법률 판단과 최종 판결에 대한 책임은 법관에게 있다.
Q2. 판례 검색보다 소송서류 요약에서 AI 오류가 적은 이유는 무엇인가?
소송서류 요약은 제공된 문서를 바탕으로 내용을 정리하는 작업이다. 반면 독자적인 판례 검색은 AI가 학습한 정보에 의존하면서 존재하지 않는 판례나 부정확한 인용문을 생성할 위험이 있다. 다만 제공된 문서를 요약할 때도 사실관계의 누락이나 왜곡이 발생할 수 있다.
Q3. 법관이 판결문 작성에 AI를 사용했다면 당사자에게 공개해야 하나?
미국 전역에 적용되는 일률적인 공개 의무는 없다. 법원별 규정과 AI 사용 방식에 따라 달라진다. 다만 AI가 비공개 자료를 처리하거나 판결의 실질적인 법률 판단에 영향을 미치는 경우에는 기밀보호와 적법절차 문제가 발생할 수 있다.
