에므레 카짐(Emre Kazim)은 AI 개발 속도를 늦추는 것만으로는 안전 거버넌스 공백을 메울 수 없다며 독립적 검증 체계를 우선해야 한다고 주장했다. 카짐은 9월 21일 실리콘앵글에 게재한 게스트 칼럼에서 다리오 아모데이의 ‘프런티어 AI 속도 조절’ 제안을 검토하며 이같이 밝혔다.
AI 속도 조절보다 독립적 검증
아모데이는 AI 역량이 이를 이해하고 통제할 능력보다 빠르게 발전하고 있다며 세 단계의 대응책을 제시했다. 독립 평가자에게 프런티어 연구소의 안전 관행을 직원 수준으로 상시 확인할 수 있도록 하고, 민주주의 국가의 주요 연구소들이 공통 안전 기준을 마련하며, 중국을 포함한 국제 협약을 추진하자는 내용이다. 앤트로픽(Anthropic)은 독립 평가자 참여를 일방적으로 약속하겠다고 밝힌 바 있다.
카짐은 독립적 검증과 개발 속도 조절은 경제적 성격이 다르다고 지적했다. 검증은 속도를 보상하는 시장과 양립할 수 있지만, 속도 조절은 막대한 경제적 보상을 좇는 기업들이 스스로 개발을 제한하도록 요구한다는 것이다. 기술적으로 가능한 일이 있으면 누군가는 실제 가능성을 확인하려 한다는 과학·산업계의 동력도 집단적 자제와 충돌한다고 설명했다.
업계 분열이 보여준 조정의 한계
칼럼이 공개된 뒤 업계는 빠르게 세 진영으로 나뉘었다. 샘 올트먼(Sam Altman)은 오픈AI(OpenAI)가 앤트로픽의 독립 평가자 공약에 맞추겠다고 했고, 일론 머스크는 폭넓은 제안을 지지했다. 구글 딥마인드(Google DeepMind)의 데미스 허사비스와 유럽연합 집행위원회 위원장 우르줄라 폰데어라이엔도 취지에 동의했다.
반면 메타(Meta)의 마크 저커버그는 경쟁과 법적 책임, 독립 평가만으로도 연구소가 안전하게 개발할 동기가 있다며 조율된 속도 제한을 거부했다. 투자자 데이비드 색스는 속도를 늦춰야 한다고 생각하는 기업들이 먼저 자체적으로 늦추면 된다고 반박했다. 마이클 버리(Michael Burry)는 속도 조절론이 경쟁 심화를 맞은 기존 연구소에 유리한 자기 이익 추구일 수 있다고 주장했다.
카짐은 국제 공조 자체를 반대하지는 않지만, 인류의 안전을 공조의 성공에 의존해서는 안 된다고 결론 내렸다. 1972년 미국과 소련이 체결한 전략무기제한협정(SALT I)이 합의와 함께 정찰위성 등 ‘국가 기술수단’을 통한 검증에 의존했던 사례를 들며, AI에도 규칙 준수 여부를 확인할 수 있는 장치가 필요하다고 강조했다. 보잉 737 맥스 추락 사고에서 정식 인증 절차를 따랐음에도 감독기관과 기업의 안전 이해에 공백이 드러난 점은 복잡한 AI 시스템에서도 형식적 준수와 실질적 가시성이 다를 수 있음을 보여준다고 덧붙였다.