앤트로픽(Anthropic) CEO 다리오 아모데이(Dario Amodei)가 AI 개발 속도를 조절하기 위한 구상을 제시했다. 테크크런치는 9월 19일 아모데이가 독립적인 안전성 평가기관과 민주주의 국가의 AI 연구소 간 공조를 핵심으로 하는 방안을 내놨다고 보도했다.
앤트로픽의 AI 개발 속도조절 구상
이번 구상은 AI 개발을 일괄적으로 중단하자는 제안이라기보다, 최첨단 AI 개발의 속도와 안전성 검증 방식을 조정하자는 내용으로 소개됐다. 독립 안전성 평가기관이 AI 시스템을 점검하고, 민주주의 국가에 있는 AI 연구소들이 개발 과정에서 협력하는 구조가 중심이다. 다만 테크크런치 보도에는 평가기관의 설립 방식이나 참여 주체, 연구소 간 협력 절차 같은 구체적인 실행안은 담기지 않았다.
아모데이의 발언은 앤트로픽 연구원이 AI의 잠재적 위험을 경고한 지 일주일 뒤 나왔다. 테크크런치는 이 경고가 AI 업계에 큰 파장을 일으킨 뒤 앤트로픽 CEO가 개발 속도조절 방안을 제시했다고 전했다. 업계 일부에서는 이 구상에 지지를 보였지만, 엔비디아(Nvidia) CEO 젠슨 황(Jensen Huang)은 이에 대해 반론을 제기한 인물로 언급됐다. 보도에는 황의 구체적인 반박 내용은 포함되지 않았다.
누가 AI 개발 속도를 판단하나
이번 논의의 쟁점은 ‘속도를 늦춘다’는 표현을 업계가 어떻게 정의할지, 또 그 판단과 감시를 누가 맡을지에 있다. 테크크런치의 영상에서는 기업들이 ‘속도를 늦춘다’는 것이 무엇을 의미하는지, 또 누가 이를 감독할지에 합의할 수 있는지를 중심으로 AI 업계의 논의를 다뤘다. 독립 평가기관을 둔다는 구상은 기업 내부의 자체 판단만으로 안전성을 확인하는 방식에 한계가 있다는 문제의식과 연결되지만, 원문은 평가 기준이나 법적 권한까지 설명하지 않았다.
원문은 새 AI 모델이나 제품의 출시, 성능 수치, 학습 규모, 비용을 발표한 자료가 아니다. 따라서 기존 모델과의 기술적 성능 비교나 구체적인 개발 일정, 가격 정책도 제시되지 않았다. 현재 확인되는 내용은 아모데이가 안전성 평가와 국제적 협력을 포함한 AI 개발 조정 방안을 제안했다는 점, 그리고 이 제안이 업계의 지지와 엔비디아 측의 반발을 함께 불러왔다는 수준이다.
테크크런치는 해당 내용을 자사 팟캐스트 ‘에쿼티’의 영상에서 진행자 커스틴 코로섹, 앤서니 하, 션 오케인이 분석했다고 설명했다. 영상에서는 아모데이의 구상 외에도 워드프레스 모회사 오토매틱(Automattic)의 이사회 장악 사태와 주요 투자·거래 소식이 함께 다뤄졌다. 아모데이의 제안에 대한 후속 일정이나 참여 기업, 정책화 여부는 공개되지 않았으며, 향후 논의는 속도조절의 기준과 감독 주체를 구체화할 수 있는지에 달릴 전망이다.