핵심 요약
AI 요약
기사 목차 펼치기 / 접기
미국 델라웨어주 형평법원(Court of Chancery)이 인공지능(AI)이 만들어낸 허위 판례를 인용한 서면을 제출한 대형 로펌 변호사에게 2500달러(약 350만원)의 제재금을 부과했다. 제재 대상은 로펌에서 AI 도구의 도입과 사용을 검토하던 AI 소위원회 위원장이다. 법원은 변호사 개인에게 책임을 물으면서도 소속 로펌에는 제재를 내리지 않았다.
블룸버그 로는 11월 13일 “델라웨어 형평법원이 AI가 생성한 허위 법률 인용해 서면을 제출한 변호사에게 금전 제재를 내렸다”고 보도했다.
델라웨어 형평법원의 로리 윌(Lori W. Will) 부법원장은 11월 13일 케빈 레이스키 등 대 로버트 그레고리 키드 등 사건(Kevin Leiske et al. v. Robert Gregory Kidd et al., C.A. No. 2025-0426-CDW)에서 리처즈 레이턴 앤드 핑거(Richards, Layton & Finger)의 리처드 롤로(Richard P. Rollo) 변호사에게 제재금 납부를 명령했다.
롤로 변호사는 로펌의 AI 소위원회 위원장으로 새로운 AI 도구의 도입을 검토하고 있었다. 로펌은 AI 사용 지침과 윤리교육을 마련했지만, 정작 AI 도입을 검토하던 변호사가 이를 지키지 않았다. 법원은 11월 13일 결정문에서 개인의 검증 의무 위반을 문제 삼았다. 결정문에는 그가 퍼플렉시티 엔터프라이즈를 사용하다가 문제의 사고를 겪었다고 명시돼 있다. 이 모델은 기업과 조직을 위해 강화된 보안, 데이터 프라이버시, 팀 협업 기능을 제공하는 AI 기반 연구 및 검색 솔루션으로 업계에 알려져 있다.
도입 검토하던 AI 도구로 소송서면 작성
문제의 서면은 올해 1월 22일 소송비용 선지급(advancement)을 둘러싼 분쟁에서 제출됐다. 회사 임원 등의 소송 방어비용을 회사가 먼저 지급해야 하는지가 쟁점이었다.
롤로 변호사는 원고 측 서면을 준비하면서 기업용 AI 검색·답변 서비스인 퍼플렉시티 엔터프라이즈(Perplexity Enterprise)를 사용했다.
판사는 “롤로 변호사는 로펌의 AI 소위원회 위원장으로서 퍼플렉시티 엔터프라이즈의 시범 평가를 주도하고 있었으며, 이 도구는 로펌 전체의 일반적인 사용 승인은 받지 않았다(As Chair of RLF’s AI Subcommittee, he was leading a pilot evaluation of Perplexity Enterprise, a tool that had not been approved for general firm use)“고 설명했다.
판사는 “롤로 변호사는 퍼플렉시티를 이용해 답변서의 법률 주장을 작성하고 압축했다(He used the tool to help draft and condense arguments in the answering brief)”고 밝혔다. 특히 “그 과정에서 조작된 인용문, 잘못된 판례 인용, 그리고 판결의 취지를 왜곡한 내용이 서면에 포함됐다(That process introduced fabricated quotations, flawed citations, and a mischaracterized case holding into the text)”고 지적했다.
AI로 법률 주장을 작성하고 문장을 다듬는 과정에서 실제 판결문에 없는 인용문과 판례가 인정하지 않은 법률 명제가 포함된 것이다. 롤로 변호사는 후배 변호사와 법률보조원에게 검증을 맡겼지만, 자신은 원판결문을 직접 대조하지 않고 서명했다.
상대방 변호사들은 1월 27일 오류를 지적했다. 롤로 변호사 측은 다음 날 정정서면을 냈지만, 허위 인용문에서 큰따옴표만 삭제하고 잘못된 법률 설명은 그대로 남겼다. 이후에도 인용한 판례들이 실제로 존재하며 법률 주장을 뒷받침한다는 입장을 유지했다.
법원은 판례의 존재 여부뿐 아니라 인용 내용과 법률적 설명의 정확성도 확인해야 한다고 판단했다. 2월 2일 본래 소송비용 선지급 분쟁에서는 피고 측 이의를 받아들이지 않았지만, 허위 인용 문제는 별도로 다뤘다.
이어 7월 1일 제재 사유 소명 명령을 내려 롤로 변호사와 소속 로펌에 제재를 부과하지 않아야 할 이유를 설명하도록 했다.
변호사는 제재, 로펌은 면제…판단 가른 내부통제
델라웨어 형평법원 규칙 11조는 변호사가 제출하는 서면의 사실적·법률적 근거를 합리적으로 확인하도록 요구한다. 소속 변호사가 규칙을 위반하면 원칙적으로 로펌도 공동책임을 지지만, 예외적인 사정이 있으면 제재를 면제할 수 있다.
리처즈 레이턴 앤드 핑거는 2023년 3월 승인되지 않은 생성형 AI 도구의 사용을 금지했다. 2024년에는 AI 윤리 문제를 검토하는 조직을 구성했고, 2025년 7월에는 종합적인 AI 사용 정책을 마련했다.
이 정책은 AI가 작성한 법률 문서와 분석 결과를 숙련된 변호사가 검증하도록 했다. AI를 변호사의 독립적인 법률 판단 대신 사용하는 것도 금지했다.
직원들에게는 AI 환각, 비밀유지 의무, 법원에 대한 진실성 의무 등을 교육했다. 올해 1월까지 200명 이상이 교육을 받았으며, 해당 프로그램은 델라웨어주의 변호사 계속교육 제도에서 윤리교육 1시간으로 인정받았다.
법원은 이러한 규정과 교육이 실제 시행됐다는 점을 인정했다. 로펌은 AI 오용을 막기 위한 합리적인 조치를 취했지만, 롤로 변호사는 이를 따르지 않았다고 판단했다.
이에 따라 로펌에 대한 제재는 면제하고 롤로 변호사에게만 2500달러를 부과했다. 제재금은 로펌이 대신 납부할 수 없으며, 변호사 본인이 결정일로부터 14일 이내에 지급해야 한다.
이번 면제는 규칙 11조 위반에 따른 제재에 한정된다. 소속 변호사의 모든 행위에 대한 법적 책임까지 면제한 것은 아니다.
AI 윤리교육까지 이끌었지만 검증은 소홀
롤로 변호사는 AI 윤리교육을 여러 차례 이수했고 로펌 내부 교육에도 관여했다. 법원은 이미 충분한 교육을 받은 만큼 추가 교육보다 개인이 부담하는 금전 제재가 적절하다고 판단했다. 뒤늦게 잘못을 인정한 점과 그동안 법원에서 좋은 평가를 받아온 점도 고려했다.
법원이 문제 삼은 것은 AI 사용 자체가 아니라 AI가 작성한 내용을 검증하지 않고 제출한 행위였다.
미국변호사협회(ABA)는 2024년 공식 윤리의견 제512호(Formal Opinion 512)에서 생성형 AI를 사용하는 변호사의 정확성 검증과 비밀유지, 감독 의무를 강조했다. 로펌 관리자에게도 AI 사용 기준을 마련하고 소속 직원들의 윤리의무 준수를 감독하도록 요구했다.
비슷한 판단은 2025년 앨라배마주 북부 연방지방법원의 존슨 대 던 사건(Johnson v. Dunn, 792 F. Supp. 3d 1241)에서도 나왔다. 당시 법원은 로펌이 AI 환각의 위험성을 경고하고 독립적인 검증을 요구한 점을 고려해 로펌 자체에는 제재를 부과하지 않았다. 델라웨어 형평법원도 이 선례를 인용했다.
윌 부법원장은 11월 13일 결정문에서 리처즈 레이턴 앤드 핑거가 “AI의 위험을 경고하고 명확한 검증 정책을 마련했으며, 다층적인 접근 방식으로 직원들을 교육했다”고 평가했다. 이어 “로펌은 올바른 조치를 취했다”고 밝혔다.
Q&A
Q1. AI 소위원회 위원장이어서 더 무거운 제재를 받은 것인가?
법원은 위원장 직책 자체를 가중 사유로 삼지는 않았다. 롤로 변호사가 서면에 서명하고 AI가 작성한 법률 주장을 충분히 검증하지 않은 것이 제재의 직접적인 근거였다.
Q2. AI 사용 규정이 있으면 로펌은 책임을 면하는가?
그렇지 않다. 규칙 11조는 원칙적으로 로펌의 공동책임을 규정한다. 이번 사건에서는 실제 시행된 사용 제한, 검증 정책, 직원 교육이 예외적인 사정으로 인정됐다.
Q3. AI 허위 판례를 제출한 뒤 정정하면 제재를 피할 수 있나?
정정만으로 제재를 피할 수는 없다. 이번 사건에서는 허위 인용문의 큰따옴표를 삭제했지만 잘못된 법률 설명은 남아 있었다. 법원은 오류 발견 이후의 검증과 정정 과정도 살펴봤다.
