美 뉴욕주, AI 허위 판례 인용한 판사 탄핵 추진

존재하지 않는 판례·왜곡된 법률 근거를 고의로 사용하면 징계…사법행위위원회 조사 거쳐 탄핵 절차까지 가능

뉴욕주 의사당을 배경으로 판사가 AI가 생성한 허위 판례를 검토하는 모습. 뉴욕주 법안 S10741과 판사 징계 및 탄핵 가능성을 표현한 이미지.
미국 뉴욕주에서 판사가 AI로 생성된 허위 판례를 고의 또는 무모하게 사용하면 징계하고 탄핵 절차에 회부할 수 있도록 하는 법안이 발의됐다. 사진은 뉴욕주 의사당과 AI 판례 검증 과정을 표현한 생성형 AI 이미지.
핵심 요약 AI 요약
1
뉴욕주 법안 발의:뉴욕주 상원에 판사의 허위 법률 근거 사용을 사법상 비위행위로 규정하는 법안이 발의됐으며 아직 의회를 통과하지 않았다.
2
고의·무모한 사용 기준:징계 대상은 판사가 허위 법률 근거를 고의 또는 무모하게 사용하고 해당 오류가 법률 분석이나 사건 결론 등에 중대한 영향을 미칠 수 있는 경우다.
3
별도의 탄핵 절차:법관징계위원회가 비위행위를 인정하면 주 하원에 탄핵 대상으로 회부할 수 있지만 탄핵과 해임은 별도의 헌법상 절차를 거쳐야 한다.
4
AI 사용 자체 허용:법안은 판결문 초안에 AI를 사용하는 행위를 금지하지 않으며 허위 법률 근거의 출처가 AI인지와 관계없이 적용될 수 있다.
5
검증 노력 심사:판사의 책임을 판단할 때는 오류의 중대성과 당사자에 대한 영향뿐 아니라 검증 절차와 오류 발견 후 수정 여부 등도 고려한다.
기사 목차 펼치기 / 접기

미국 뉴욕주에서 판사가 인공지능(AI)이 만들어낸 허위 판례를 판결에 인용하면 최대 탄핵까지 추진할 수 있도록 하는 법안이 발의됐다. AI가 작성한 법률 문서의 오류를 변호사뿐 아니라 판사에게도 책임지도록 하겠다는 취지다. 다만 판결문에 오류가 있다는 이유만으로 탄핵하는 것은 아니다. 판사가 허위 법률 근거를 고의로 사용했거나 오류 위험을 알면서도 무모하게 사용했는지가 판단 기준이다.

뉴욕주 상원의 미셸 힌치(Michelle Hinchey) 의원은 11월 16일 ‘사법 AI 책임성과 무결성 법안(Judicial Artificial Intelligence Accountability and Integrity Act, S10741)’을 발의했다. 판사가 존재하지 않는 판례나 왜곡된 법률 근거를 판결에 사용한 경우 사법상 비위행위로 규정하는 내용이다.

블룸버그는 11월 17일 “뉴욕주에서 판사가 AI로 생성된 허위 법률 근거를 판결에 인용하면 징계는 물론 탄핵까지 추진할 수 있는 법안이 발의됐다”고 보도했다.

허위 판례 인용만으로 징계하지 않아…고의·무모한 사용이 기준

뉴욕주 상원이 공개한 법안은 뉴욕주 법원조직법(Judiciary Law)에 제44-a조를 신설하는 내용을 담고 있다.

법안이 규정한 허위 법률 근거(fabricated legal authority)에는 실제로 존재하지 않는 법률이나 판결, 사건번호가 포함된다. 실제 판결이 존재하더라도 그 내용이나 인용문, 선례로서의 효력을 중대하게 왜곡했다면 허위 법률 근거에 해당할 수 있다.

그러나 판결문에서 잘못된 인용이 발견됐다고 해서 곧바로 판사를 징계하는 것은 아니다.

법안은 판사가 허위 법률 근거를 고의로 사용했거나, 오류 위험을 인식하면서도 무모하게 사용한 경우를 대상으로 한다. 해당 정보가 법률 분석이나 사건의 결론, 당사자의 중요한 권리에 영향을 미칠 수 있을 정도로 중대해야 한다는 요건도 뒀다.

단순한 인용 실수나 법률 해석의 차이까지 징계 대상으로 삼지는 않는다. AI를 활용해 판결문 초안을 작성하는 행위 자체도 금지하지 않는다.

징계위원회가 조사하고 주의회에 탄핵 회부 가능

법안은 뉴욕주 법관징계위원회(New York State Commission on Judicial Conduct)가 판사의 허위 법률 근거 사용을 조사하고 징계할 수 있도록 했다.

위원회가 비위행위를 인정하면 해당 사안을 뉴욕주 하원에 탄핵 대상으로 회부할 수 있다. 다만 위원회가 비위행위를 인정했다고 해서 판사가 곧바로 탄핵되거나 직위에서 해임되는 것은 아니다.

뉴욕주에서 판사를 탄핵하려면 주 헌법에 따른 별도의 절차를 거쳐야 한다. 하원이 탄핵소추를 결정하고, 탄핵재판을 담당하는 법원이 사건을 심리한다.

이번 법안은 판결문에 오류가 발견됐다는 사실만으로 판사를 자동으로 탄핵하는 제도가 아니다. 중대한 허위 법률 근거를 고의 또는 무모하게 사용한 행위를 징계 사유로 명시하고, 사안에 따라 탄핵 절차로 이어질 수 있도록 하는 내용이다.

법안은 11월 16일 발의돼 상원 규칙위원회(Rules Committee)에 회부됐다. 아직 의회를 통과하지 않았다.

변호사에게 요구하던 AI 검증 책임, 판사에게도 확대

뉴욕주 법원은 이미 변호사와 소송 당사자가 AI로 작성한 서류를 제출할 때 지켜야 할 규정을 시행하고 있다.

뉴욕주 법원 규칙 제161편은 AI를 이용한 법률 문서 작성을 금지하지 않는다. AI를 사용했다는 사실을 일률적으로 공개하도록 요구하지도 않는다.

대신 법원에 제출하는 서류에 존재하지 않는 판례나 가공된 법률 정보가 포함되지 않았는지 독립적으로 확인하도록 한다. 이를 위반하면 법원이 제재를 부과할 수 있다.

기존 규정이 법원에 서류를 제출하는 변호사와 당사자에게 적용된다면, 이번 법안은 판사가 작성하거나 채택한 판결문과 결정문 등을 직접 규율한다.

연방 사법부에서도 판사의 AI 사용에 관한 기준을 마련하고 있다. 로이터는 9월 17일 “미국 연방 사법부가 법원의 생성형 AI 사용에 관한 새로운 지침을 마련하고 있으며, 판사에게 핵심적인 사법적 책임을 AI에 위임하지 말고 AI가 생성한 내용을 독립적으로 검증하도록 요구하고 있다”고 보도한 바 있다.

연방 사법부가 AI 활용 과정에서 지켜야 할 기준을 마련하는 데 초점을 맞췄다면, 뉴욕주 법안은 허위 법률 근거를 사용한 판사의 징계 책임을 법률에 명시하려는 것이다.

오류의 중대성뿐 아니라 판사의 검증 노력도 확인

이번 법안은 판사의 책임을 판단할 때 고려해야 할 사항도 구체적으로 정했다.

뉴욕주 상원 법안 원문에 따르면 사법행위위원회는 허위 법률 근거의 수와 중대성, 당사자에게 미친 영향, 판사가 사용한 검증 절차, AI 위험에 관한 사전 교육 여부, 위반행위의 반복성, 오류를 발견한 뒤 신속하게 수정했는지 등을 살펴야 한다.

판결문에 존재하지 않는 판례가 포함됐더라도 단순한 인용 실수인지, 판결의 법률적 근거를 왜곡한 중대한 오류인지에 따라 책임 판단이 달라질 수 있다. 판사가 오류를 막기 위해 어떤 검증 절차를 거쳤는지도 심사 대상이다.

특히 법안은 허위 법률 근거가 반드시 AI에서 생성됐어야 한다고 제한하지 않았다. 판사가 고의 또는 무모하게 허위 법률 근거를 사용했다면 그 출처가 AI인지 여부와 관계없이 적용될 수 있다.

법안이 통과되면 법률로 제정된 날부터 180일이 지난 뒤 시행된다. 시행일 이후 발생한 행위에만 적용된다.

AI가 만들어낸 허위 판례 문제는 미국 법조계에서 계속 논란이 되고 있다. 로이터는 10월 23일 “미국 법원에서 AI가 생성한 허위 판례 등 오류가 포함된 서류로 문제가 된 사건은 수년간 급증했으나, 2026년 2분기와 3분기에는 신규 사례가 감소하는 조짐을 보였다”고 보도했다. 그러나 AI 오류 사건을 추적하는 법률 연구자 데이미언 샤를로탱(Damien Charlotin)은 “오류 발생이 줄더라도 새로운 AI 모델에 대한 과도한 신뢰로 검증이 소홀해질 위험은 여전하다“고 경고했다.

Q&A

Q1. 판사가 AI로 판결문을 작성하면 탄핵 대상이 되는가?

아니다. AI 사용 자체는 징계 사유가 아니다. 판사가 허위 법률 근거를 고의 또는 무모하게 사용하고, 그 오류가 법률 분석이나 사건의 결론 등에 중대한 영향을 미칠 수 있는 경우가 대상이다.

Q2. 판결문에 허위 판례가 포함되면 판결도 자동으로 무효가 되는가?

아니다. 이번 법안은 판사의 징계 책임을 규정한다. 판결을 취소하거나 변경하는 문제는 해당 사건의 항소 등 별도 사법 절차에 따라 판단된다.

Q3. 판사에 대한 징계와 탄핵은 어떻게 다른가?

징계는 사법행위위원회가 판사의 비위행위를 조사하고 제재하는 절차다. 탄핵은 주의회가 관여하는 별도의 헌법상 절차다. 뉴욕주에서는 하원이 탄핵소추를 결정하고 탄핵재판을 담당하는 법원이 심리한다. 이번 법안은 위원회가 중대한 비위행위를 인정한 경우 해당 사안을 하원에 회부할 수 있도록 하는 내용이다.

RELATED ARTICLES

RECOMMENDED STORIES