핵심 요약
AI 요약
기사 목차 펼치기 / 접기
미국 연방법관들이 소송 당사자와 변호사가 상대방으로부터 받은 자료를 챗GPT 등 공개형 생성형 인공지능(AI) 챗봇에 입력하지 못하도록 하는 보호명령을 잇달아 승인하고 있다. 기밀정보의 외부 유출을 막기 위한 조치지만, 일부 법원은 기밀로 지정되지 않은 증거개시 자료까지 제한하고 있다. 소송자료의 보호 범위와 AI를 활용한 소송 준비 권한을 둘러싼 법적 다툼도 발생했다.
코네티컷 연방지방법원의 사랄라 나갈라(Sarala V. Nagala) 연방판사는 11월 4일 ‘에어이백 응급의료서비스 등 대 애트나 생명보험회사 등 사건(Air Evac EMS, Inc. et al. v. Aetna Life Insurance Company et al., 3:26-cv-01021)’에서 생성형 AI 사용 제한을 포함한 보호명령을 승인했다.
보험사 애트나 측은 기존 보호명령에 AI 관련 조항을 추가해 달라고 요청했고, 원고 측은 반대하지 않았다. 판사는 기밀자료를 허용되지 않은 생성형 AI에 입력하는 행위를 제한하되, 모델 학습·자료 보관·제3자 공개를 금지하는 등의 조건을 충족하는 기업용 AI는 허용했다. 법률 AI 서비스 하비(Harvey)와 레고라(Legora)가 예시로 제시됐다.
같은 날 캘리포니아 동부연방법원도 ‘리베라 유족 대 컨 카운티 보안관국 등 사건(Estate of Ezekiel Rivera et al. v. Kern County Sheriff’s Department et al., 1:24-cv-00176)‘에서 유사한 보호명령을 승인했다. 코카운슬(CoCounsel)과 마이크로소프트 365 코파일럿(Microsoft 365 Copilot) 등 보안 요건을 충족하는 기업용 AI의 사용은 허용했다.
두 사건은 당사자들이 합의한 보호명령을 법원이 승인한 사례다. 그러나 다른 연방법원에서는 AI 사용 제한에 반대한 당사자들의 주장을 심리해 법관이 직접 판단한 결정도 나왔다.
AI 사용 적발 아닌 사전 보호명령…법관은 어떻게 개입하나
미국 민사소송의 증거개시(discovery) 절차에서는 당사자들이 상대방에게 관련 문서와 자료를 제공한다. 영업비밀이나 개인정보가 포함된 자료도 이 과정에서 제출될 수 있다.
자료를 제공하는 측은 상대방이 이를 외부 AI 서비스에 입력할 경우 자료가 서비스 제공자의 서버에 보관되거나 모델 학습에 사용될 위험을 우려할 수 있다.
이때 당사자는 상대방과 보호명령(protective order)의 조건을 협의하거나 법원에 보호명령을 신청한다. 양측이 합의하면 법원에 제출해 승인을 받을 수 있다. 의견이 다르면 법관이 신청과 반대 의견을 검토해 결정한다.
미국 연방민사소송규칙(Federal Rules of Civil Procedure) 제26조(c)는 정당한 사유가 있을 때 법원이 증거개시 자료를 보호하기 위한 명령을 내릴 수 있도록 규정한다.
따라서 법관이 변호사의 챗GPT 사용 내역을 직접 확인해야만 보호명령을 내릴 수 있는 것은 아니다. 정보 유출 위험을 이유로 사전에 사용 조건을 정할 수 있다.
보호명령은 AI 입력을 기술적으로 차단하는 장치가 아니다. 위반 사실이 드러나면 연방민사소송규칙 제37조(b)에 따른 제재 문제가 발생할 수 있다. 당사자가 법관의 증거개시 관련 명령을 따르지 않았을 때 받는 제재다.
캔자스 법원, 기밀 아닌 자료까지 AI 입력 제한
캔자스 연방법원은 기밀로 지정되지 않은 증거개시 자료까지 공개형 AI 입력을 제한했다. 자료를 제공한 측의 보안 우려와 자료를 받은 측의 소송 준비 권한이 충돌한 사건으로, 미국 법률 전문가들의 관심을 받았다.
앤젤 미첼(Angel D. Mitchell) 연방치안판사는 3월 25일 제프리스 등 대 하크로스 케미컬스 등 사건(Jefferies et al. v. Harcros Chemicals Inc. et al., 2:25-cv-02352-KHV-ADM)에서 피고 측의 보호명령 변경 신청을 받아들였다.
캔자스 연방법원 결정문에 따르면, 기존 보호명령은 AI 사용 전 상대방에게 통지하고 이의를 제기할 기회를 주도록 했다. 기밀자료의 AI 학습 사용을 금지하고 삭제 조건도 규정했다.
그러나 피고 측은 공개형 AI에 입력한 자료가 외부 서버에 보관되거나 모델 학습에 사용될 수 있고, 한번 입력한 자료를 완전히 회수하기 어렵다고 주장했다. 이에 따라 기밀자료뿐 아니라 모든 증거개시 자료로 제한 범위를 확대해 달라고 요청했다.
원고 측은 AI 사용을 금지하면 대량의 소송문서를 검토하는 데 더 많은 시간과 비용이 든다고 반박했다. 비기밀 자료의 AI 이용까지 제한하는 것은 표현의 자유를 보장한 미국 수정헌법 제1조에도 위배된다고 주장했다.
법원은 두 주장 모두 기각했다. 원고 측은 구체적인 비용 증가를 충분히 입증하지 못했다 판단했고 증거개시 자료의 공개형 AI 입력 제한이 모든 의사표현을 금지하는 것은 아니라고 판단했다.
이 결정에 대해 미국 로펌 에이킨 검프(Akin Gump)는 법률 전문 플랫폼 제이디수프라에 게재한 분석에서 “법원이 화학산업의 핵심 기반시설 정보 노출과 미국 개인정보보호법 및 유럽연합 일반개인정보보호규정(GDPR) 위반 위험을 고려했다“고 분석했다.
비기밀 자료도 보호명령 대상
로펌 애커먼(Akerman)의 대릴 그레이엄(Darryl Graham) 변호사는 6월 5일 블룸버그 로에 기고한 글에서 “캔자스 법원은 사건의 구체적인 사정에 따라 공개형 AI에 모든 증거개시 자료를 입력하는 행위를 금지할 수 있다고 판단했다”고 설명했다.
그레이엄은 AI 학습에 이용된 자료를 회수하기 어렵고, 입력자료의 보관과 후속 이용을 통제하기 어렵다는 점이 법원의 판단에서 중요하게 다뤄졌다고 분석했다.
전자증거개시 전문 변호사 마이클 버먼(Michael Berman)는 3월 26일 이디스커버리 LLC에 게재한 분석에서 “캔자스 법원은 비기밀 자료를 공개형 AI에 입력하지 못하도록 제한하더라도 자료 자체의 일반적인 공개를 금지하는 것은 아니라고 판단했다”고 설명했다.
법원은 증거개시 과정에서 상대방에게 받은 자료의 AI 입력과 다른 경로로 확보한 정보의 이용을 구별했다. 따라서 이 결정은 모든 비기밀 문서의 AI 사용을 금지한 것이 아니라, 해당 소송에서 증거개시 절차를 통해 제공된 자료의 공개형 AI 입력을 제한한 것이다.
텍사스 법원, 영업비밀 보호 필요성 인정…일반 법률조사는 허용
텍사스 북부 연방지방법원에서도 AI 사용 제한을 둘러싼 당사자들의 이견에 대해 법관이 판단했다. 이 사건에서는 기밀자료 보호와 소송 준비를 위한 일반적인 AI 활용을 구분하는 것이 핵심 쟁점이었다.
시드니 피츠워터(Sidney A. Fitzwater) 연방판사는 10월 23일 피슈먼 대 에픽시스템스 사건(Fischman v. Epic Systems Corporation, 3:26-cv-00770-D)에서 의료 소프트웨어 기업 에픽시스템스의 AI 관련 보호명령 신청을 받아들였다.
에픽시스템스는 증거개시 과정에서 제공하는 영업비밀과 기밀정보가 공개형 AI에 입력되면 외부에 보관되거나 모델 개선에 사용될 수 있다고 주장했다.
원고 측은 제한에 반대했지만 법원은 기밀자료 보호 필요성을 인정했다. 다만 기밀자료를 입력하지 않는 일반적인 법률 조사와 문서 작성 등에는 AI를 계속 사용할 수 있도록 했다.
전자증거개시 전문 변호사 마이클 버먼(Michael Berman)은 10월 26일 이디스커버리 LLC에 게재한 분석에서 “텍사스 법원이 당사자 간 이견에도 불구하고 생성형 AI 사용에 관한 보호명령을 승인했다”고 설명했다.
텍사스 법원은 판단 과정에서 콜로라도 연방법원의 모건 대 브이투엑스 사건(Morgan v. V2X, Inc., 1:25-cv-01991) 결정도 참고했다.
콜로라도 연방법원의 마리차 도밍게스 브래스웰(Maritza Dominguez Braswell) 연방치안판사는 3월 30일 기밀자료의 공개형 AI 입력을 제한하면서 변호사 없이 소송을 진행하는 원고에게 사용한 AI 도구의 이름을 공개하도록 명령했다.
판사는 도구의 이름을 공개하는 것만으로 소송 전략이 드러나는 것은 아니며, 상대방에게는 기밀자료가 안전하게 처리됐는지 확인할 필요가 있다고 판단했다.
콜로라도 사건에서는 변호사의 직업윤리 의무와 별도로, 변호사 없이 직접 소송하는 당사자의 AI 사용을 어떻게 통제할 것인지도 문제가 됐다.
기업용 AI는 조건부 허용…자료 보관·모델 학습 여부가 기준
법원들이 검토하는 위험은 AI 서비스에 입력한 소송자료가 어떻게 보관되고 이용되는지에 관한 것이다. 모델 학습에 사용되는지, 제3자에게 제공되는지, 삭제가 가능한지 등이 주요 쟁점이다.
블룸버그 로는 9월 10일 “소송 당사자들이 생성형 AI 사용에 관한 보호명령을 마련할 때 기밀자료 보호와 AI 활용 조건을 일관되게 규정해야 한다”고 분석했다. AI 사용을 전면 금지하기보다 자료의 민감성과 AI 서비스의 데이터 처리 방식을 구분해 보호명령을 설계해야 한다는 취지다.
네바다 연방법원도 10월 27일 LED 컨설팅 대 칸델라 사건(LED Consulting v. Candela, 2:26-cv-02650-MDC)에서 기밀정보가 포함된 AI 생성 결과물의 취급까지 규정했다.
뉴욕 남부연방법원은 8월 19일 리파 대 레스토랑 디포 사건(Ripa v. Restaurant Depot, 1:26-cv-02853)에서 데이터 보관과 삭제, 모델 학습에 관한 조건을 포함한 보호명령을 승인했다.
다만 이들 사례에는 당사자 합의에 따른 보호명령과 법원이 이의를 심리한 결정이 함께 포함돼 있다. 미국 전체에 적용되는 통일된 AI 사용 금지 규칙이 만들어진 것은 아니다.
기존 비밀유지 의무와 별도로 AI 사용을 제한하는 이유
미국 변호사협회(ABA)의 공식 윤리의견 512호는 생성형 AI를 사용하는 변호사에게 의뢰인 정보의 비밀유지, 기술적 위험에 대한 이해, 결과물 검증 등의 의무를 요구한다.
그러나 증거개시 과정에서 상대방이 제공한 자료의 AI 사용 범위는 변호사의 일반적인 비밀유지 의무만으로 모두 결정되지 않는다. 법원은 보호명령을 통해 소송 당사자와 대리인에게 적용할 구체적인 조건을 정할 수 있다.
실제 AI 사용이 확인된 뒤에도 위반 여부가 문제 될 수 있다. 당사자의 진술, 제출 서류, 사용 기록 등으로 보호명령 위반 사실이 드러나면 법원이 관련 경위를 심리하고 제재 여부를 판단할 수 있다.
Q&A
Q1. 법관은 변호사가 챗GPT에 소송자료를 입력했는지 어떻게 아는가?
보호명령을 내리기 전에 실제 입력 사실을 확인할 필요는 없다. 자료를 제공하는 측이 유출 위험을 우려해 사전에 보호명령을 신청할 수 있다. 명령 이후 위반 의혹이 제기되면 관련 기록과 진술 등을 통해 확인할 수 있다.
Q2. 기밀로 지정되지 않은 소송자료도 AI 입력을 금지할 수 있는가?
캔자스 사건에서는 가능하다고 판단했다. 법원은 비기밀 증거개시 자료까지 공개형 AI 입력 제한을 확대하고, 원고 측의 비용 증가 및 수정헌법 제1조 관련 주장을 받아들이지 않았다. 다만 다른 소송에 자동으로 적용되는 전국적 규칙은 아니다.
Q3. 기업용 AI라면 소송자료를 자유롭게 분석할 수 있는가?
아니다. 기업용 AI도 해당 사건의 보호명령이 요구하는 보안 조건을 충족해야 한다. 입력자료의 모델 학습 사용 여부, 보관·삭제 조건, 제3자 제공 가능성 등을 확인해야 한다.
