개빈 뉴섬(Gavin Newsom) 미국 캘리포니아 주지사가 프런티어 AI 모델의 작동을 중단하는 이른바 ‘킬 스위치’ 의무화 방안을 검토하도록 주 정부에 지시했다. 뉴섬 주지사의 행정명령은 AI 안전 감독을 강화하기 위한 전문가 그룹을 꾸리는 내용을 담았다고 더버지(The Verge)가 19일 보도했다.
캘리포니아, AI 안전 규제안 마련
행정명령에 따라 전문가 그룹은 두 달 안에 주 법률상 AI 안전 조치를 강화할 방안을 제시할 예정이다. 검토 대상에는 AI 기업이 정기 감사를 위해 독립적인 검증 기관을 사업장에 두도록 하는 방안과 기업의 투명성 보고서·위험 평가를 독립 감사 기준에 맞춰 심사받도록 하는 방안이 포함됐다. AI 기업이 프런티어 모델에 비상시 작동을 멈추는 장치를 내장하고, 그 장치가 실제로 기능하는지 정기적으로 확인하도록 하는 방안도 살펴본다.
또 오픈AI(OpenAI)의 허깅페이스(Hugging Face) 공격과 같은 ‘통제 상실 사고’를 중대한 안전 사고로 분류해 기업이 당국에 보고하도록 하는 내용도 검토한다. 여기서 킬 스위치는 단순한 종료 버튼을 뜻하는 데 그치지 않고, 독립적인 외부 검증과 정기적인 작동 확인을 전제로 한 안전 장치로 다뤄진다. 다만 행정명령이 즉시 모든 AI 기업에 해당 의무를 부과한 것은 아니며, 전문가 그룹의 권고를 거쳐 주 법률에 반영할 수 있는 방안을 마련하는 단계다.
연방정부에 규제 모델 채택 촉구
행정명령은 뉴섬 주지사가 서명한 두 개의 기존 법률을 신속하게 시행하도록 주 정부 기관에 지시하는 내용도 담았다. 두 법률은 독립 검증 기관이 AI 안전성을 평가할 수 있는 틀과 AI 감사 기관 등록부를 만드는 데 초점을 맞춘다. 캘리포니아는 이번 조치를 주 차원의 추가 규제를 넘어 연방 AI 감독의 모델로 제시하며, 의회와 도널드 트럼프 대통령에게 주의 체계를 검토·채택하거나 연방 규제의 최소 기준으로 삼을 것을 요구했다.
미 의회에서는 전 앤트로픽(Anthropic) 연구자 제이컵 콕슨이 10년 안에 AI가 인류 전체를 멸망시킬 가능성이 10%를 넘을 수 있다고 경고한 글을 올린 뒤 관련 법안 논의가 잇따랐다. 그러나 하원은 11월까지 휴회에 들어갔고, 중간선거를 앞둔 상원에서도 실질적인 법안 처리가 쉽지 않을 것이라는 전망이 나온다. 트럼프 대통령은 AI에 필요한 통제나 안전장치는 ‘강하고 영리한 대통령’뿐이라는 입장을 밝혀 뉴섬의 규제 구상과 대조를 이뤘다.
뉴섬 주지사는 18일 정치 전문 매체 폴리티코와의 인터뷰에서 AI를 다루기 위한 캘리포니아 주의회 특별회기 소집 가능성도 언급했다. 행정명령에 추가 입법이나 행정 조치가 이어질 수 있다는 의미다. 그는 연방정부가 의미 있는 AI 감독과 책임 체계를 만들지 못한 상황에서 캘리포니아가 기다리지 않고 실질적이고 책임 있는 감독 작업을 서두르겠다고 밝혔다.