미국 연방법원이 인공지능(AI) 기업 앤트로픽(Anthropic)을 ‘국가안보 공급망 위험(supply chain risk)’으로 지정한 트럼프 행정부의 조치가 위법하다고 판단했다. 앤트로픽이 생성형 AI 클로드(Claude)를 미국인에 대한 대규모 감시와 완전 자율 살상무기에 사용하는 데 제한을 두자 정부가 회사를 광범위하게 제재한 사건이다. 법원은 “정부가 국가안보를 이유로 기업의 비판적 입장에 보복할 수는 없다”고 판단했다.
미 캘리포니아 북부연방법원의 리타 F. 린(Rita F. Lin) 판사는 8월27일 앤트로픽 대 전쟁부 (Anthropic PBC v. U.S. Department of War et al., 3:26-cv-01996-RFL) 사건에서 양측의 상호 약식결정 신청(cross-motions for summary judgment)에 대한 결정을 내렸다.
이날 법원 사건 기록에는 두 개의 핵심 명령이 연이어 올라왔다. 첫번째 명령(docket 250)은 양측의 교차 약식결정 신청을 판단한 명령으로 정부 조치가 위법한 이유를 담은 본안 결정이다. 두번째 명령(docket 251)은 그 판단에 따라 정부가 취해야 할 조치를 정한 최종 구제명령(Order of Final Relief)이다.
로이터가 8월27일 보도한 59쪽짜리 본안 결정에 따르면 린 판사는 “정부 조치가 수정헌법 제1조를 위반한 불법적인 보복”이라고 밝혔다. 또 린 판사는 “앤트로픽에는 수정헌법 제5조가 요구하는 불이익 처분 전 절차도 제공되지 않아 수정헌법의 적법절차 원칙에도 위반된다”고 판단했다. 또 피트 헤그세스(Pete Hegseth) 전쟁부 장관의 공급망 위험 지정은 관련 법률이 정한 체계를 위반했고 행정법상 ‘자의적이고 변덕스러운(arbitrary and capricious)’ 결정이라고 지적했다.
린 판사는 “국가안보를 공허하게 내세운다고 정부 비판자를 처벌하고 보복할 수 있는 백지수표가 생기는 것은 아니다”라는 취지로 지적했다.
앤트로픽의 두 가지 금지선…대규모 감시와 자율살상
갈등은 “미군이 클로드를 어디까지 사용할 수 있느냐”에서 시작됐다.
앤트로픽이 3월9일 제출한 48쪽짜리 소장에 따르면 회사는 미군의 클로드 사용에 두 가지 제한을 유지했다. 미국인에 대한 대규모 감시(mass surveillance of Americans)와 사람의 개입 없이 표적 선정과 공격까지 수행하는 완전 자율 살상전(lethal autonomous warfare)에 클로드를 사용하지 못하도록 한 것이다.
앤트로픽은 완전 자율 살상무기에 현재 AI 모델을 사용할 만큼 기술이 신뢰할 수 있는 수준에 이르지 못했다고 봤다. 미국인에 대한 대규모 감시에는 권리 침해 우려가 있다는 입장이었다.
반면 미 정부는 민간 AI 기업이 군의 합법적인 기술 이용 범위를 결정해서는 안 된다고 맞섰다. 법무부는 소송에서도 앤트로픽이 이용 제한을 유지하면 전쟁부가 작전 중 클로드를 어디까지 사용할 수 있는지 불확실해지고 군사 시스템 운영에도 위험을 줄 수 있다고 주장했다.
앤트로픽이 두 제한을 철회하지 않으면서 충돌은 정부 조달 문제를 넘어섰다.
앤트로픽의 소장에 따르면 도널드 트럼프(Donald Trump) 대통령은 연방기관들에 앤트로픽 기술 사용을 중단하도록 지시했고, 헤그세스 장관은 회사를 ‘국가안보 공급망 위험’으로 지정했다. 전쟁부와 거래하는 계약업체·공급업체·협력업체에도 앤트로픽과 상업적 거래를 하지 못하도록 하는 지시가 뒤따랐다고 앤트로픽은 주장했다.
앤트로픽은 이를 AI 안전정책에 대한 의견 차이 때문에 정부가 회사 전체를 응징한 조치라고 주장하며 3월9일 캘리포니아 북부 연방법원에 소송을 냈다.
법원 “정부가 클로드를 버릴 자유는 있다”
이번 판결을 이해하는 데 중요한 것은 법원이 앤트로픽에 미군과 계속 거래할 권리를 인정한 것은 아니라는 점이다.
린 판사는 이미 3월26일 43쪽짜리 예비금지명령 결정에서 정부가 클로드 사용을 중단하거나 다른 AI 기업을 선택하는 문제와 정부 정책에 반대한 앤트로픽을 광범위하게 제재하는 문제를 구별했다.
앤트로픽도 정부에 자사 제품을 계속 구매하도록 요구한 것이 아니었다. 회사가 문제 삼은 것은 정부가 계약을 끊는 것을 넘어 연방정부 전체와 정부 공급망에서 앤트로픽을 배제하려 한 조치였다.
예비금지명령 단계에서 린 판사는 앤트로픽이 정부 계약 종료 자체를 되돌려 달라고 요구하는 것이 아니라 정부의 정책과 지침에 대한 헌법적 문제를 제기하고 있기 때문에 연방지방법원이 이를 심리할 관할권이 있다고 판단했다.
8월27일 본안 판단도 이 구분을 토대로 이뤄졌다.
정부는 앤트로픽과 거래하지 않을 수 있다. 그러나 기업이 정부의 AI 정책에 반대했다는 이유로 국가안보와 조달 관련 권한을 동원해 그 기업을 정부와 민간 공급망에서 광범위하게 배제하는 것은 별개의 문제라는 것이다.
수정헌법 1조·5조에 공급망 위험 지정까지
법원이 앤트로픽의 손을 들어준 핵심은 크게 세 갈래다.
첫째는 수정헌법 제1조가 보호하는 표현의 자유다.
로이터에 따르면 린 판사는 8월27일 본안 결정에서 다툼 없는 기록을 볼 때 정부의 조치가 수정헌법 제1조를 위반한 불법적인 보복이었다고 판단했다.
이는 앤트로픽의 AI 안전정책이 법적으로 반드시 옳다는 의미와는 다르다. 정부가 그 정책을 받아들이지 않을 수도 있다. 다만 정부 정책에 반대하는 기업의 표현을 이유로 정부 권한을 이용해 보복해서는 안 된다는 판단이다.
둘째는 수정헌법 제5조의 적법절차(due process)다.
법원은 앤트로픽이 불이익을 받기 전에 필요한 절차(pre-deprivation process)를 제공받지 못했다고 판단했다. 단순히 ‘국가안보’라는 이름을 붙이는 것만으로 기업에 절차적 권리를 보장하지 않아도 되는 것은 아니라는 것이다.
셋째는 헤그세스 장관의 ‘공급망 위험’ 지정 자체의 법적 근거다.
이 제도는 원래 군사 시스템과 조달망이 적대세력의 침투나 파괴 등에 노출되는 것을 막기 위해 공급망 위험이 있는 제품·서비스를 제한하는 장치다. 로이터에 따르면 앤트로픽은 이 제도에 따라 공개적으로 공급망 위험으로 지정된 첫 미국 기업이다.
법원은 헤그세스 장관의 결정이 공급망 위험 지정에 적용되는 법률 체계를 위반했고, 충분한 근거가 없는 ‘자의적이고 변덕스러운’ 행정 결정이라고 판단했다.
‘공급망 위험’ 법률을 AI 기업 제재에 쓸 수 있나
이 대목은 이번 사건에서 AI 안전정책 못지않게 중요한 법률 쟁점이다.
앤트로픽은 소장에서 헤그세스 장관의 조치가 연방정부의 공급망 보안 법률이 예정한 위험과 회사의 AI 이용정책을 사실상 뒤섞었다고 주장했다.
전쟁부는 3월 초 서로 다른 법률상 권한을 근거로 앤트로픽을 공급망 위험으로 지정했다. 이 가운데 캘리포니아 소송에서는 미군 조달과 관련된 미국법전 제10편 제3252조(10 U.S.C. §3252)에 근거한 지정 등이 다뤄졌다.
별도로 연방조달공급망보안법(Federal Acquisition Supply Chain Security Act·FASCA)에 따른 지정도 있었다. FASCA는 연방정부 정보·통신기술 공급망을 국가안보 위험으로부터 보호하기 위해 특정 공급업체를 연방 조달에서 배제할 수 있도록 만든 법률이다.
앤트로픽은 이 FASCA 지정에 대해서는 3월9일 워싱턴DC 연방항소법원에 별도로 심사를 청구했다. 로페어(Lawfare)에 따르면 전쟁부는 3월4일 앤트로픽에 FASCA에 따른 공급망 위험 결정을 통보했고, 앤트로픽은 법률이 정한 절차에 따라 이를 별도로 다투기 시작했다.
따라서 8월27일 캘리포니아 연방법원의 판결만으로 앤트로픽과 미 정부 사이의 모든 공급망 위험 분쟁이 끝난 것은 아니다.
“왜 위법한가” 그리고 “어떤 조치를 취해야 하나”
8월27일 법원 결정은 첫번째 명령(#250)과 두번째 명령(#251)으로 구성됐다.
첫번째 명령(docket 250)은 본안 판단이다. 양측은 사실관계를 두고 정식 재판까지 갈 필요 없이 법률문제로 승패를 결정해 달라는 교차 약식판결 신청을 냈다. 린 판사는 이 신청을 판단하면서 수정헌법 제1조와 제5조, 공급망 위험 지정의 법적 근거 등을 검토했다. 앤트로픽의 행정기록 보완 신청도 이 명령에서 인용됐다.
두번째 명령(docket 251)은 ‘Order of Final Relief’, 즉 최종 구제명령이다. 첫번째 명령에서 위헌성을 판단한 뒤 정부가 관련 조치를 어떻게 처리해야 하는지를 정한 후속 명령이다.
따라서 이번 사건에서 “법원이 왜 정부 조치를 위법하다고 판단했는가”를 확인할 때 첫번째 명령을 살펴야 하고“그 결과 정부가 무엇을 해야 하는가”를 확인할 때는 두번째 명령을 함께 봐야 한다.
AI 기업에 ‘군사적 거부권’ 준 판결은 아니다
이번 판결은 생성형 AI 기업의 안전정책과 미국 정부의 국가안보·조달 권한이 정면으로 충돌한 사례라는 점에서 의미가 있다. 하지만 법원이 앤트로픽에 미국의 군사 AI 정책을 결정할 권한을 부여한 것으로 확대해석해서는 안 된다.
법원이 인정한 것은 앤트로픽이 정한 AI 안전 제한을 미군이 따라야 한다는 원칙이 아니다.
미 정부는 앤트로픽의 조건을 거부하고 다른 AI 기업과 계약할 수 있다. 반대로 앤트로픽도 자사 AI를 어떤 조건으로 제공할 것인지에 대한 입장을 밝힐 수 있다.
이번 판결의 핵심은 그 다음 단계다. 정부가 민간기업의 입장에 동의하지 않는다는 이유로 국가안보와 조달 관련 권한을 이용해 그 기업을 광범위하게 처벌할 수 있느냐는 것이다.
린 판사의 답은 적어도 이번 사건의 기록에서는 ‘그럴 수 없다’는 것이다.
앤트로픽과 미국 정부의 분쟁은 아직 완전히 끝나지 않았다. 워싱턴DC에서 별도의 공급망 위험 지정 사건이 남아 있고 미 정부가 캘리포니아 판결에 불복할 가능성도 있다.
그러나 8월27일 판결은 AI 기업과 정부의 계약 분쟁에서 AI 안전정책, 표현의 자유, 적법절차, 국가안보를 이유로 한 공급망 배제 권한이 어디에서 충돌하는지를 보여주는 첫 주요 판결 가운데 하나가 됐다.
Q&A
Q1. 법원이 미군에 클로드를 계속 사용하라고 명령했나.
아니다. 정부가 클로드 사용을 중단하거나 다른 AI 기업을 선택할 권리 자체를 부정하지 않았다. 문제는 계약 종료를 넘어 정부 정책에 반대한 기업을 정부와 관련 공급망에서 광범위하게 배제한 조치였다.
Q2. 법원은 앤트로픽의 AI 안전정책이 옳다고 인정했나.
그것도 아니다. 법원은 자율살상무기나 대규모 감시에 AI를 사용할 수 있는지에 대한 기술적·윤리적 결론을 내린 것이 아니다. 정부가 이에 반대하는 기업의 표현을 이유로 보복할 수 있는지가 헌법적 쟁점이었다.
Q3. 왜 수정헌법 제1조 사건이 됐나.
앤트로픽은 자율살상무기와 미국인 대규모 감시에 클로드를 사용해서는 안 된다는 입장을 밝혔고, 정부가 이 입장 때문에 회사를 제재했다고 주장했다. 린 판사는 본안에서 정부 조치가 수정헌법 제1조를 위반한 불법적인 보복이라고 판단했다.
Q4. #250과 #251은 무엇이 다른가.
#250은 양측의 교차 약식판결 신청을 판단하면서 정부 조치의 위법성을 다룬 본안 결정이다. #251은 그 판단에 따라 정부가 취해야 할 조치를 정한 최종 구제명령이다. 판결 이유를 파악하려면 #250, 실제 구제 범위를 확인하려면 #251을 봐야 한다.
Q5. 앤트로픽과 미 정부의 소송은 이것으로 끝났나.
아니다. 캘리포니아 연방법원 사건과 별도로 FASCA에 따른 공급망 위험 지정을 다투는 사건이 워싱턴DC 연방항소법원에 제기돼 있다. 미 정부가 8월27일 캘리포니아 판결에 불복하는 절차도 남아 있다.
