핵심 요약
AI 요약
기사 목차 펼치기 / 접기
인공지능(AI) 기업 앤트로픽(Anthropic)이 연방의회 의원들에게 자체적으로 작성한 AI 안전법 초안을 비공개로 제안했다. 첨단 AI 모델의 안전성 평가를 의무화하는 대신, 정부가 모델의 출시나 사용을 중단시킬 수 있는 요건을 대규모 인명·재산 피해 위험으로 제한하는 내용이다.
로이터는 10월 16일 폴리티코 보도를 인용해 “앤트로픽 관계자들이 미국 의회 의원들에게 첨단 AI 안전과 보안을 규제하는 법안 초안을 제시했다”고 보도했다. 폴리티코는 이 같은 움직임을 알고 있는 관계자 3명을 인용했다. 다만 의원의 공식 발의 법안은 아니며, 구체적인 협의 대상과 입법 일정도 공개되지 않았다.
10억달러 피해 또는 50명 이상 사상 위험…정부 개입 요건 제한
법안 초안은 정부가 AI 모델의 출시나 사용을 중단시키려면 예견 가능하고 임박한 중대한 위험이 있어야 한다고 규정한 것으로 보도됐다.
구체적으로 10억달러(약 1조4000억원)를 초과하는 재산 피해나 50명을 초과하는 사망·중상 위험이 발생할 것으로 예상되는 경우다. 위험의 원인도 생물학 무기의 제작·유포, 개발자의 통제를 벗어난 AI 모델의 행동, 사이버 공격으로 한정했다.
법안은 그러나 이러한 요건에 해당하더라도 행정부가 독자적으로 모델 운영을 중단시키는 방식은 허용하지 않는다.
초안에 따르면 미국 상무부가 위험을 판단해 워싱턴DC 연방지방법원에 모델 중단을 요청할 수 있다. 실제 중단 여부는 연방판사가 결정한다. 다른 연방정부 부처나 기관, 공무원이 모델의 개발·배포·내부 사용을 독자적으로 중단시키는 것은 금지하는 내용도 포함됐다.
독립 평가기관 등록제 도입…중대 위험 발견하면 72시간 안에 보고
앤트로픽의 제안에는 AI 개발사에 대한 외부 안전성 평가도 포함됐다.
독립 평가기관은 미국 상무부에 등록하고 첨단 AI 모델과 개발사의 안전관리 체계를 정기적으로 평가한다. 평가 비용은 AI 개발사가 지급할 수 있지만, 평가 결과에 따라 보수가 달라지는 계약은 허용하지 않는 방식이다.
평가기관이 법안에서 정한 임박한 중대 위험을 확인하면 평가를 마친 뒤 72시간 이내에 상무부에 보고해야 한다.
개발사에도 안전성 시험, 평가 결과의 투명한 공개, 중대한 안전사고 보고 등의 의무를 부과한다. 앤트로픽 대변인은 로이터에 ”이번 초안이 회사가 앞서 공개한 첨단 AI 규제 구상을 반영한 것”이라고 설명했다.
캘리포니아주 AI 안전법 일부 대체…연방정부와 주정부 권한 조정
이 초안에는 캘리포니아주를 비롯한 일부 주정부의 AI 안전 규제를 연방법으로 대체하는 내용도 포함된 것으로 보도됐다.
앤트로픽은 앞서 캘리포니아주의 첨단 인공지능 투명성법(Transparency in Frontier Artificial Intelligence Act·SB 53)을 지지했다. 이 법은 대형 AI 개발사에 안전관리 체계 공개와 중대한 안전사고 보고 등의 의무를 부과한다.
그러나 이번 연방 법안 초안은 위험 공개, 제3자 평가, 중대한 사고 보고 등 일부 영역에서 연방 규정을 우선 적용하도록 하는 내용을 담고 있다. 연방법과 충돌하는 주법의 효력을 배제하는 연방 우선권(preemption) 방식이다.
앤트로픽은 6월 발표한 첨단 AI 규제 프레임워크에서는 연방법이 충분히 강력한 안전기준을 마련하지 않는 한 주정부의 규제 권한을 제한해서는 안 된다고 밝혔다. 아동 안전과 소비자 보호 등 연방 차원의 첨단 AI 안전 규제 범위를 벗어나는 분야에서는 주정부 권한을 유지해야 한다는 입장이다.
이 프레임워크는 규제 대상도 구체적으로 제안했다. 규제 대상은 AI 모델을 학습시키는 과정에서 수행한 수학적 계산이 총 10²⁵회(10의 25제곱 회)를 초과하고, 연간 AI 매출이 5억달러(약 7000억원)를 넘거나 AI 연구개발비가 10억달러(약 1조4000억원)를 초과하는 기업이 개발한 모델이다.
의회는 이미 초당적 AI 안전법 추진…규제 권한과 집행 방식 차이
앤트로픽이 자체 법안을 제안한 시점에 미국 의회에서는 별도의 초당적 AI 안전 입법도 추진되고 있다.
미국 하원의 로리 트라한(Lori Trahan) 민주당 의원과 제이 오버놀티(Jay Obernolte) 공화당 의원 등은 7월 23일 첨단 AI 위험 감독·국가 투명성·독립 평가·보고법(FRONTIER Act)을 발의했다.
미국 하원의 공식 발표에 따르면 이 법안은 개발사 규모에 따라 안전관리 체계, 독립 감사, 사고 보고, 지속적인 위험 평가 의무를 차등 적용한다. 주마다 다른 규제를 통일하는 전국적 기준도 마련하도록 했다.
두 의원은 10월 1일 공동 성명에서 독립적인 제3자 평가와 연방정부 감독을 강조했다. 특히 초당적 법안에는 재앙적 피해를 막기 위한 긴급 개입 권한이 포함돼 있다고 설명했다.
앤트로픽의 제안 역시 독립 평가와 정부 개입을 인정한다. 다만 모델 중단에 필요한 피해 규모와 위험 유형을 명시하고, 상무부의 신청과 법원 명령을 거치도록 규제 권한을 제한한 점이 특징이다.
앤트로픽의 제안을 둘러싸고 규제 강도에 대한 평가도 엇갈린다. AI 법률·정책 연구기관인 법률·AI 연구소(Institute for Law & AI)의 찰리 불록(Charlie Bullock)은 이번 제안을 대체로 합리적이라고 평가하면서도, 의회에 발의된 초당적 법안보다 규제 강도가 약하다는 견해를 밝혔다.
앤트로픽 공동창업자 잭 클라크(Jack Clark)는 10월 17일 국제통화기금(IMF)·세계은행 연차총회에서 AI의 급속한 발전에 따른 위험을 경고했다. 로이터에 따르면 클라크는 “AI의 과학 연구 활용이 생물학·사이버 무기 개발에도 악용될 수 있다“고 지적했다. 특히 생물학 연구 분야에 대해선 “가장 엄격한 인간의 감독과 투명성이 필요하다”고 말했다.
Q&A
Q1. 앤트로픽이 제안한 법안은 이미 미국 의회에 발의됐나?
아니다. 앤트로픽이 의원들에게 비공개로 제시한 법안 초안이다. 정식 발의된 법안과는 다르며, 의회 심의나 통과가 보장된 것도 아니다.
Q2. 10억달러 또는 50명 기준을 충족하지 않으면 AI 기업은 규제를 받지 않나?
그렇지 않다. 해당 기준은 보도된 초안에서 정부가 모델 출시·사용을 중단시킬 수 있는 특별한 개입 요건이다. 안전성 시험, 정보 공개, 독립 평가, 사고 보고 등 일반적인 규제 의무와 구별해야 한다.
Q3. 앤트로픽의 법안이 통과되면 캘리포니아주 AI 안전법은 폐지되나?
반드시 그렇지는 않다. 보도된 초안은 특정 분야에서 연방법이 주법보다 우선하도록 하는 내용이다. 주법 전체를 폐지하는 것과는 다르다. 실제 적용 범위는 최종 입법 문구에 따라 결정된다.
