오픈AI와 앤트로픽 등 프런티어 AI 기업들이 개발 속도를 늦추자는 논의에 동참하고 있지만, 실제 감속을 뒷받침할 구체적 방안은 부족하다는 분석이 나왔다. 테크크런치는 9월 21일 팟캐스트 테크크런치의 최신 에피소드에서 AI 업계의 안전 논쟁과 감속론을 다뤘다고 전했다.
앤트로픽의 ‘프런티어 조절’ 제안
앤트로픽의 최고경영자(CEO) 다리오 아모데이는 AI 개발의 최전선을 조절하자는 내용의 계획을 최근 공개했다. 오픈AI CEO 샘 올트먼과 일론 머스크를 비롯한 업계 인사들도 일정 부분 이 구상에 호응한 것으로 소개됐다. 팟캐스트에 참여한 앤서니 하는 아모데이의 계획에 업계가 빠르게 지지를 보인 점이 뜻밖이었다고 말했고, 션 오케인은 감속의 의미와 실행 방식에 관한 세부 내용이 여전히 부족하다고 지적했다.
논의된 방안에는 앤트로픽이나 오픈AI 같은 기업 내부에서 독립적인 제3자 평가기관이 AI 안전 관행과 사고를 감시하도록 하는 내용이 포함됐다. 민주주의 국가의 주요 AI 기업들이 안전 기준과 개발 한도를 조율하고, 국제적으로도 협력하자는 제안이 거론됐다. 다만 팟캐스트 진행자들은 어떤 위험을 근거로 제한을 추진하는지, 어느 수준에서 개발을 늦출지에 대한 설명이 충분하지 않다고 봤다. 오케인은 기업들이 감속을 말하더라도 현재의 사업 구조에서는 실제로 속도를 늦추기 어렵다고 말했다.
규제와 시장 자율에 대한 의문
커스틴 코로섹은 업계의 빠른 합의가 긍정적인 출발점일 수 있지만, 프런티어 AI 연구소들이 공동 기준을 세우는 카르텔의 시작이 될 가능성도 경계해야 한다고 말했다. 기존 규제와 자유시장만으로 안전장치가 마련될 수 있느냐는 질문에 오케인은 미국 연방정부가 규제를 폭넓게, 특히 AI 분야에서 적극적으로 집행하려는 모습을 보이지 않는다고 답했다. 소비자 선택 역시 기업의 위험한 행위에 즉각적인 제동을 걸 만큼 강하지 않다는 설명이다.
엔비디아 CEO 젠슨 황은 아모데이의 구상에 회의적인 입장을 보인 인물로 언급됐다. 황은 도널드 트럼프 대통령이 AI에 대한 반발을 허위 주장으로 보고 규제가 필요하지 않다고 말한 데 공개적으로 호응한 것으로 소개됐다. 오케인은 황이 AI 업계와 행정부를 연결하는 역할을 하면서도 다양한 이해관계자에게 받아들여질 수 있는 발언을 하려는 위치에 있다고 분석했다. 과거에는 마이크로소프트와 사티아 나델라 CEO가 업계에서 조정자 역할을 했지만, 최근에는 그 영향력이 약해졌다는 평가도 나왔다.
이번 논의는 AI 안전에 대한 업계의 공감대가 형성되고 있다는 점과, 그 공감대가 실제 규칙과 집행 체계로 이어질지는 별개의 문제라는 점을 함께 보여준다. 팟캐스트 출연자들은 아모데이의 계획이 안전 평가와 국제 협력의 방향을 제시했지만, 개발 속도와 기업의 책임을 어떻게 제한할지에 관한 로드맵은 아직 명확하지 않다고 봤다.