위너는 연방의회가 강력한 AI 규제에 나서야 한다고 촉구했다. 낸시 펠로시(Nancy Pelosi) 전 하원의장의 샌프란시스코 지역구 선거에서 승리한 위너는 당선 직후에도 AI 위험 대응을 강조했다. 미국 매체 MIT 테크놀로지 리뷰는 11월 10일 위너와의 인터뷰를 보도했다.
위너가 제시한 연방 AI 규제
위너는 인터뷰 전날 AI 비영리단체 METR이 공개한 보고서를 언급하며 AI 위험이 우려스럽다고 말했다. 해당 보고서는 앤트로픽(Anthropic)이 AI가 스스로 발전에 기여하는 ‘재귀적 자기개선’을 이뤘다는 증거로 널리 해석됐다. 위너는 이를 규제에 쓸 시간이 빠르게 줄고 있다는 신호로 들며 “속도를 늦춰야 한다”고 주장했다.
그는 연방 차원의 강력하고 권한 있는 규제기관을 두고, 내부고발자 보호와 AI 시스템 시험·감사 의무, 작동을 멈추는 장치 요건을 마련해야 한다고 밝혔다. 의회가 감독 권한을 활용해 AI 기업에 책임을 묻는 방안도 제안했다. 반면 주 정부의 AI 규제 권한을 연방정부가 폭넓게 가져가는 데는 반대했다. 의회가 신속하게 움직이지 못할 때 주 정부가 정책을 시험할 수 있도록 해야 한다는 취지다.
캘리포니아주 법안 경험과 정치적 쟁점
위너는 2024년 프런티어 AI(frontier AI) 규제를 담은 캘리포니아주 법안 SB 1047을 발의했으나, 개빈 뉴섬(Gavin Newsom) 주지사가 거부권을 행사했다. 이후 발의한 규제 강도가 낮은 SB 53에는 뉴섬 주지사가 서명했다. 두 법안은 연방 차원의 법안 제안에도 영향을 줬다.
위너의 선거운동에는 AI 규제를 지지하는 비영리단체 퍼블릭 퍼스트 액션(Public First Action)이 300만달러 넘게 지원했다. 이 단체는 앤트로픽으로부터 상당한 자금을 받는다. 지원 사실을 두고 위너가 AI 업계와 가깝다는 비판이 나왔지만, 그는 자신이 빅테크의 반대에도 AI 규제를 추진한 의원이라며 비판을 반박했다. 의회에서 AI 특별위원회가 구성되면 참여하고 싶다는 뜻도 밝혔다.
AI 데이터센터 반대 여론과 AI 위험 규제 지지는 구분할 필요가 있다는 것이 위너의 설명이다. 화요일 투표에서 데이터센터 반대 주민투표안 41건 중 40건이 통과됐지만, 그는 주민들이 주로 주거지 인근 영향과 전기요금 상승, 물 사용을 우려한 결과로 봤다. 위너는 의회가 AI 통제력 상실 가능성을 진지하게 다뤄야 한다고 주장하면서도, 기술 규제의 과거를 고려하면 의회가 AI를 억제할 수 있을지 “조심스럽게 낙관한다”고 말했다. 도널드 트럼프(Donald Trump) 대통령이 AI 재앙 위험 우려를 ‘사기’라고 부른 점과 중국과의 협력에 소극적인 점도 장애물로 꼽았다.
