미국 상원의원 버니 샌더스(Bernie Sanders)와 하원의원 그렉 카사르(Greg Casar)가 인공 초지능의 개발과 사용을 영구 금지하는 법안을 발의했다. IT 전문 매체 더디코더는 두 의원이 현지시간 9월 23일 ‘인공 초지능 금지법’을 제출했다고 9월 24일 보도했다.
초지능 개발 영구 금지 추진
법안은 인공 초지능의 개발뿐 아니라 사용도 영구적으로 금지하는 내용을 담았다. 새 연방 기관이 명확한 안전 규정을 마련할 때까지 고도 AI 시스템의 개발을 즉시 동결하는 방안도 제안했다. 따라서 법안이 겨냥하는 것은 초지능에 대한 장기적인 금지에 그치지 않고, 안전 규칙을 마련하는 동안 진행 중인 고도 AI 개발을 멈추는 조치까지 포함한다. 다만 기사에는 법안이 적용될 고도 AI 시스템의 구체적인 기준이나 초지능의 정의는 제시되지 않았다.
샌더스는 현재의 AI 모델도 이미 컴퓨터 시스템을 해킹하고 새로운 유형의 바이러스를 만들 수 있으며, 스스로 새로운 AI를 구축할 수 있다고 주장했다. 기업들이 알려진 위험에도 AI에 수천억달러를 쏟아붓고 있다는 점도 들었다. 그는 AI가 인류에 실존적 위협이 될 수 있다며, 소수의 기술 억만장자가 AI 규칙을 직접 정해서는 안 된다고 말했다. 이는 법안 발의 배경에 관한 샌더스의 설명으로, 매체 보도는 해당 위험 주장을 별도의 검증 결과로 제시하지는 않았다.
연방 AI 기관과 위반 처벌 담아
법안에는 장관급 연방 AI 기관을 신설하는 내용이 포함됐다. 이 기관은 고도 AI에 적용할 안전 규칙을 마련하는 역할을 맡게 되며, 법안은 규칙이 마련될 때까지 관련 시스템 개발을 동결하도록 제안했다. 법을 위반한 기업은 강제 해산될 수 있고, 개인에게는 최대 20년의 징역형을 부과할 수 있도록 했다. 보도는 이 형량을 불법 핵무기 개발에 적용되는 처벌 수준과 비교했다.
카사르는 AI 초지능이 무수한 사람을 죽일 수 있다고 경고했으며, 도널드 트럼프는 개발을 가속하려 하고 있다. 법안은 미국 내 규제뿐 아니라 전 세계적으로 초지능 개발을 막기 위한 국제 협정도 추진하도록 했다. 더디코더는 최근 미국과 중국의 전문가들도 유사한 AI 규제 방안을 제안했다고 전했지만, 해당 법안의 의회 처리 일정이나 국제 협정의 구체적인 방식은 보도에 담기지 않았다.