핵심 요약
미국 캘리포니아주가 변호사와 중재인(arbitrator)의 생성형 인공지능(AI) 사용을 법률로 직접 규제한다. 변호사가 AI에 법률 업무를 위임하는 것을 금지하고, AI가 제시한 판례와 법률 인용을 직접 검증하도록 했다. 중재인이 AI에 판단을 맡기는 것도 금지했다.
개빈 뉴섬(Gavin Newsom) 캘리포니아 주지사는 9월 30일 상원법안 574(Senate Bill 574·SB 574)에 서명했다. 캘리포니아주 의회의 SB 574 법률 원문에 따르면 이 법은 변호사의 생성형 AI 사용에 관한 의무를 사업·전문직법(Business and Professions Code)과 민사소송법(Code of Civil Procedure)에 명시했다. 법은 2027년 1월 1일부터 시행된다.
로이터는 10월 1일 “캘리포니아가 변호사와 중재인의 생성형 AI 사용을 규제하는 법률을 제정한 미국 최초의 주가 됐다”고 보도했다. 미국 법원과 변호사단체가 AI 사용 지침과 윤리기준을 잇달아 마련해 왔지만, 캘리포니아는 이를 주법에 직접 명문화했다.
AI가 찾은 판례도 변호사가 직접 검증
신설되는 사업·전문직법 제6068.1조는 변호사가 “법률 업무를 생성형 AI에 위임해서는 안 된다”고 규정한다. AI를 업무 보조수단으로 사용할 수는 있지만 변호사가 결과물의 정확성을 확인하고, 잘못되거나 환각(hallucination)으로 생성된 내용을 실제 업무에 사용하기 전에 바로잡아야 한다.
의뢰인 정보 보호 의무도 명시됐다. 변호사는 의뢰인의 비밀정보와 개인식별정보, 기타 비공개 정보를 적절한 보호조치가 없는 생성형 AI 시스템에 입력해서는 안 된다. 법률은 생년월일·사회보장번호·주소·전화번호뿐 아니라 의료·정신건강·금융정보와 계좌번호 등을 보호 대상의 예로 들었다.
법원 제출 문서에 대한 검증 의무도 강화된다. 개정 민사소송법 제128.7조는 변호사가 법원에 제출하는 준비서면·소장·신청서 등에 포함된 인용을 직접 확인하도록 했다. 생성형 AI가 제공한 인용도 명시적으로 포함된다. 위반하면 법원이 변호사나 로펌 등에 재발 방지를 위한 제재를 부과할 수 있다.
변호사가 생성형 AI를 이용해 법원 제출 문서를 작성한 경우 AI 사용 사실을 공개하도록 하는 조항도 포함됐다. 10월 1일 로펌 홀랜드앤나이트(Holland & Knight)는 “법이 공개 방식이나 어느 수준의 AI 이용부터 공개 대상이 되는지 구체적으로 정하지 않아 실제 적용 과정에서 해석 문제가 발생할 수 있다“고 분석했다.
윤리 가이드라인에서 법률로
캘리포니아 변호사협회(State Bar of California)는 이미 생성형 AI에도 기존 변호사 윤리의무가 적용된다는 입장을 밝혀왔다. 협회 이사회는 5월 14일 생성형 AI 법률업무 실무지침 개정안을 승인했다.
개정 지침은 자율적으로 여러 단계의 업무를 수행하는 에이전틱 AI(agentic AI)를 사용할 때에도 변호사의 전문적 판단을 AI에 위임할 수 없다고 명시한다. 변호사는 AI의 입력과 출력을 비판적으로 검토·검증·수정해야 하며 비밀유지와 업무능력, 감독 의무 등 기존 직업윤리도 지켜야 한다.
캘리포니아 변호사협회는 별도로 AI 관련 변호사 직업윤리규칙 개정안도 마련했다. 개정안은 변호사가 법원뿐 아니라 의뢰인이나 다른 당사자에게 제시하는 법적 근거의 정확성과 실제 존재 여부를 검증하도록 하는 내용을 담고 있다.
SB 574는 이런 윤리 지침과 직업윤리규칙 개정 논의를 넘어 변호사의 AI 사용에 관한 일부 의무를 주법에 직접 넣었다.
중재인도 AI에 판단 맡길 수 없어
규제 대상은 변호사에 그치지 않는다. 신설되는 민사소송법 제1282.1조는 중재인이 의사결정 과정의 일부라도 생성형 AI에 위임하는 것을 금지한다.
중재인이 사건 기록 밖의 정보를 생성형 AI를 통해 얻어 판단에 이용하려는 경우에는 당사자들에게 이를 공개해야 한다. 가능한 범위에서는 당사자가 해당 AI 정보의 사용에 대해 의견을 제시할 기회도 제공해야 한다.
캘리포니아 사법부도 이미 판사와 법원 직원의 AI 사용을 별도로 규율하고 있다. 캘리포니아 법원규칙 제10.430조는 생성형 AI 사용을 허용하는 법원이 자체 정책을 마련하도록 하고 있다. 비밀정보의 공개형 AI 입력을 금지하고 AI 결과의 정확성을 검증하며 잘못되거나 환각으로 생성된 결과를 수정하도록 하는 내용도 포함한다.
판사가 재판 업무에 AI를 사용할 때는 별도의 캘리포니아 사법행정기준 제10.80조가 적용된다. 이 기준도 비공개 정보 보호와 AI 결과 검증 등을 요구한다.
변호사의 AI 활용 자체가 위축되지는 않을 것이라는 견해도 나온다. 샌프란시스코의 소송 전문 변호사 제프 피셔(Jeff Fisher)는 로이터에 “이 법이 로펌의 AI 활용 확대 방식을 근본적으로 바꿀 것으로 보지는 않는다”며 “AI가 제공하는 이점과 효율성이 너무 커서 무시할 수 없다”고 말했다.
Q&A
Q1. 캘리포니아 변호사는 앞으로 챗GPT 같은 생성형 AI를 사용할 수 없나?
아니다. 생성형 AI 사용 자체를 금지하는 법은 아니다. 변호사가 전문적 판단과 법률 업무를 AI에 위임하지 않고 결과의 정확성을 검증하며 의뢰인의 비밀정보를 보호하도록 한 것이 핵심이다.
Q2. AI가 만든 판례 인용만 직접 확인하면 되나?
아니다. 법원에 제출하는 문서에 포함되는 법적 인용은 담당 변호사가 검증해야 한다. 법률은 생성형 AI가 제공한 인용도 이 의무에 포함된다고 명시했다.
Q3. 기존 변호사 윤리지침과 무엇이 다른가?
비밀유지·업무능력·감독·법원에 대한 진실의무 등은 기존 직업윤리에도 존재했다. SB 574는 AI에 법률 업무를 위임하지 않을 의무와 AI 결과 검증, 법원 제출 문서와 인용에 관한 의무 등을 주법에 명문화했다.
