오픈AI(OpenAI)가 프런티어 AI(frontier AI)에 대한 의무적 국가 안전기준 마련을 미국 의회에 촉구했다. 더버지는 9월 19일 AI 업계에서 규제 필요성을 둘러싼 공감대와 반발이 동시에 나타나고 있다고 보도했다.
오픈AI는 왜 AI 규제를 주장했나
오픈AI 글로벌정무 책임자인 크리스 리헤인(Chris Lehane)은 AI가 안전하게 개발되고 있다는 사실을 사람들이 확인할 수 있어야 한다며, 기업의 자율 조치와 함께 정부의 역할도 필요하다고 말했다. 그는 프런티어 AI에 대한 의무적 국가 안전기준을 지지하는 초당적 공감대가 커지고 있다면서 의회가 이를 제도화해 안전을 강화하고 미국의 혁신과 AI 주도권을 뒷받침해야 한다고 주장했다.
논쟁의 출발점은 앤트로픽(Anthropic) 최고경영자 다리오 아모데이(Dario Amodei)가 제시한 AI 개발 속도 조절 방안이다. 그는 AI 연구소에 제3자 평가자를 참여시키고, 미국 내 기업들이 공동 대응하며, 정부 지원 가능성을 포함한 국제 협약을 추진하는 3단계 구상을 내놨다. 오픈AI 최고경영자 샘 올트먼(Sam Altman), 구글 딥마인드(Google DeepMind) 공동창업자 데미스 허사비스(Demis Hassabis), 스페이스X(SpaceX) 최고경영자 일론 머스크(Elon Musk)도 이 방안의 일부에 공개적으로 동의하는 모습을 보였다. 앤트로픽과 오픈AI가 업계 공동 규범을 논의하고 있다는 신호를 보내면서 규제 논의가 본격화하는 듯했지만, 업계 내부의 의견은 빠르게 갈렸다.
메타·트럼프 행정부는 규제에 선 그어
메타(Meta) 최고경영자 마크 저커버그(Mark Zuckerberg)는 기업의 자율성을 제한하는 데 반대했다. 그는 모든 연구소가 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 동기를 갖고 있으며, 안전을 위해 자체 조치를 취할 능력도 있다고 X에 적었다. 월스트리트저널(Wall Street Journal)은 저커버그와 머스크, 엔비디아(Nvidia) 최고경영자 젠슨 황(Jensen Huang)이 금융업계의 금융산업규제기구(FINRA)와 유사한 업계 재원 독립 규제기구 구상을 무산시켰다고 보도했다.
미국 정부의 개입 가능성도 불확실하다. 도널드 트럼프(Donald Trump) 대통령은 최근 AI 안전 위기에 대한 우려를 ‘사기’라고 부르며 로봇이 지배하지 않을 것이라고 말했다. AI에 필요한 유일한 가드레일은 높은 지능을 지닌 강력한 대통령이라는 취지의 주장도 내놨다. 반면 과거 트럼프 1기 행정부에서 AI의 개인정보와 시민권 보호 원칙을 담은 행정명령 13960 마련에 참여했던 뉴욕대 겸임교수 닉 리스(Nick Reese)는 현재 행정부의 입장이 흔들리고 일관되지 않다고 지적했다.
리스는 AI 안전이 한 명의 선출직 공직자의 지적 능력만으로 해결될 수 없다고 말했다. AI 업계 블로거 즈비 모쇼비츠(Zvi Mowshowitz)는 트럼프 대통령이 프런티어 연구소에 정부의 출시 전 시험 같은 일부 제한을 부과한 점을 들어 완전한 규제 반대론자로 보기는 어렵지만, 정책이 일관된 원칙보다 분위기에 좌우된다고 분석했다. 이에 따라 정부의 가드레일이 완전히 배제된 것은 아니지만, 오픈AI와 앤트로픽이 원하는 규제나 독립적인 AI 안전 연구자들이 요구하는 방안과는 다른 형태가 될 가능성이 제기된다. 앤트로픽은 추가 논평을 거부했고, 세이프 슈퍼인텔리전스와 스페이스X, 구글(Google)도 더버지의 논평 요청에 답하지 않았다.