핵심 요약
AI 요약
인공지능(AI)이 법률을 해석하는 수준을 넘어 법령에 숨어 있는 허점(Loophole)을 자동으로 찾아내 악용할 수 있다는 경고가 나왔다. AI가 소프트웨어의 보안 취약점을 찾아내듯 법률과 시행령의 모순, 입법 절차상 결함 등을 탐색하면 기존 법률 시스템의 대응 능력이 한계에 부딪힐 수 있다는 것이다.
미국 스탠퍼드대 로스쿨 산하 법률혁신연구소(liftlab)의 펠릭스 링에(Felix Ringe) 연구원은 10월 28일 발표한 연구보고서에서 “대규모언어모델(LLM)을 이용해 독일 법령에서 기존에 보고되지 않은 것으로 판단되는 규제상 결함을 다수 발견했다“고 밝혔다.
이에 대해 영국 IT 전문매체 더레지스터는 “AI가 프로그램 코드의 취약점을 찾아내는 것처럼 법률에서도 악용 가능한 허점을 발견할 수 있으며, 이러한 탐색이 대규모로 이뤄지면 법률 시스템에 혼란을 초래할 수 있다”고 보도했다.
독일 법령에서 찾아낸 허점…법적 효력 자체가 쟁점
링에 연구원과 공동 연구자 리누스 폴케르츠(Linus Folkerts)는 법률을 컴퓨터 프로그램과 유사한 구조로 분석했다. 법률과 시행령도 자연어로 작성된 규칙이기 때문에 조항 사이에 모순이 발생하거나 필요한 법적 근거가 빠질 수 있다는 것이다.
연구진은 독일의 직업병 관련 규정(Berufskrankheiten-Verordnung·BKV)을 사례로 제시했다. 독일 헌법상 일정한 법규명령은 그 근거가 되는 법률 조항을 명시해야 한다. 그러나 연구진은 그 규정의 개정 과정에서 필요한 근거 조항의 표시가 누락됐다고 분석했다.
이 해석이 타당하다면 규정의 일부 조항이 효력을 잃을 수 있다고 매체는 전했다. 연구진은 이를 활용해 직업병 자문기구에 제출된 비공개 의견서의 공개를 요구하면서 관련 비밀유지 규정의 효력을 다툴 가능성을 제시했다.
또 다른 사례는 독일의 통과비자 관련 규정이다. 연구진은 문제의 규정에도 위임 근거를 명시하는 데 결함이 있어 법적 효력을 다툴 여지가 있다고 주장했다.
핵심은 AI가 법률에 존재하지 않는 내용을 만들어내는 환각(hallucination)이 아니라, 실제 법령에 존재하는 결함을 찾아내는 데 활용됐다는 점이다. 다만 연구진이 제시한 결함은 법원의 무효 판단이 아니라 법률 해석에 근거한 연구 결과다.
연구진은 심각한 피해를 초래할 수 있다고 판단한 활용 사례는 공개하지 않았으며, 상대적으로 위험이 낮은 사례 세 가지만 보고서에 수록했다.
법률의 ‘제로데이 취약점’…대량 발견되면 법원도 부담
이번 연구가 제기한 문제는 개별 법률의 결함보다 AI가 이를 찾아내는 속도와 규모에 있다.
사이버보안 분야에서 ‘제로데이(Zero-day)’는 아직 수정되지 않은 보안 취약점을 가리킨다. 법률 분야에서도 기존에 알려지지 않았던 규정의 결함을 찾아내 이를 법적 분쟁에 활용할 수 있다는 논의가 등장했다.
더레지스터가 소개한 ‘법률의 제로데이 취약점(Legal Zero-Days)’ 연구 역시 첨단 AI 시스템이 법률의 미발견 결함을 새로운 위험 요인으로 만들 가능성을 다룬다.
법원은 일반적으로 문언뿐 아니라 입법 목적, 법률 체계, 관련 판례 등을 종합해 법률을 해석한다. 그러나 AI가 여러 법령의 충돌이나 위임 범위의 결함을 대량으로 찾아내 소송과 행정적 이의제기에 활용한다면, 법원이 개별 사건에서 이를 판단해야 하는 부담도 늘어날 수 있다는 것이 링에 연구원의 우려다.
반면 AI가 찾아낸 결함이 실제로 법률의 무효나 규제 회피로 이어지는 것은 별개의 문제라고 전문가들은 말한다.
미국 산타클라라대학교 로스쿨의 에릭 골드먼(Eric Goldman) 연구담당 부학장은 더레지스터 인터뷰에서 “AI를 이용해 법률의 잠재적 결함을 찾아내는 접근법은 합리적이지만, 발견된 결함이 실제 법적 결함인지 판단하려면 신중한 인간의 검토가 필요하다“고 지적했다.
그는 “법률에 결함이 있더라도 법적 효과가 없거나 중요하지 않을 수 있으며, 중대한 문제가 발견되면 입법기관이 법률을 개정할 수도 있다“고 설명했다.
골드먼 부학장은 입법 담당 법률전문가들이 법안의 문구를 최종적으로 정리하는 과정에 AI를 활용할 가능성을 언급했다. 그는 “입법 담당 법률전문가들이 통상적인 법안 정비 절차의 일부로 AI를 활용해 법안 작성상의 결함을 찾아내는 데 도움을 받을 수 있다고 생각한다”고 말했다.
Q&A
Q1. AI가 법률의 허점을 발견하면 해당 법률은 자동으로 무효가 되나?
아니다. AI가 찾아낸 결함은 법적 주장의 출발점이다. 법령의 효력은 해당 국가의 헌법과 법률, 위임 관계, 해석 원칙 및 법적 절차에 따라 판단된다.
Q2. 기존의 AI 환각 문제와 무엇이 다른가?
AI 환각은 존재하지 않는 판례나 법률을 만들어내는 오류다. 이번 연구는 실제 법령에 존재할 수 있는 모순이나 절차적 결함을 AI가 발견해 활용할 가능성을 다룬다. 다만 AI가 결함을 잘못 판정할 위험은 여전히 있다.
Q3. 법률 분야에서 AI의 새로운 활용 시장이 생길 수 있나?
법률 검색이나 계약서 검토를 넘어 법안의 위임 근거 확인, 조항 간 충돌 탐지, 개정 전후 규정 비교 등에 활용할 가능성이 있다. 특히 입법기관과 규제기관의 사전 법령 검증 업무가 적용 대상이 될 수 있다.
