메타(Meta)가 오픈 가중치(오픈 웨이트) 대규모 언어모델에 집중하겠다고 밝히며 AI 전략을 또 한 번 전환한다고 예고했다. 아스테크니카(Ars Technica)는 8월 11일자 기사에서 메타가 오픈 모델 ‘뮤즈 글림머(Muse Glimmer)’ 공개와 ‘뮤즈 스파크 1.2(Muse Spark 1.2)’의 가중치 개방 약속을 함께 내놨다고 전했다.
메타는 뮤즈 글림머를 300억 파라미터(30B) 모델로 소개했으며, 기본 컨텍스트 윈도우는 128000 토큰이라고 밝혔다. 뮤즈 글림머는 클라우드나 API가 아닌 이용자 로컬 기기에서 구동을 목표로 하며, 가중치는 아파치 2.0 라이선스 아래 오픈소스로 제공된다. 메타가 앞서 올해 초 공개한 더 큰 모델 뮤즈 스파크에서 증류(distillation)해 만든 모델로도 설명했다. 뮤즈 스파크는 올해 4월 ‘뮤즈 스파크 1.2’ 이전 단계에서 닫힌, 독점 형태의 ‘프런티어급(frontier-class)’ 모델로 소개됐고, 지난 7월 ‘뮤즈 스파크 1.1’ 공개와 함께 유료 서비스도 내놨다고 아스테크니카는 전했다.
한편 마크 저커버그(Mark Zuckerberg) 최고경영자(CEO)는 6000단어 이상 분량의 에세이를 통해 AI 시스템과 거버넌스에 대한 메타의 철학을 제시했다고 한다. 아스테크니카는 이 글이 오픈AI(OpenAI)와 앤트로픽(Anthropic)처럼 독점 모델을 개발하는 회사들과의 차별을 겨냥하면서, 증류를 포함한 학습 방식과 분산형 AI 시스템에 관한 논리를 펼쳤다고 설명했다. 저커버그는 앤트로픽이 말하는 정렬(alignment) 접근이 근본적으로 결함이 있다고 비판하며, 개별 이용자나 집단의 필요와 가치에 맞춘 개인화와 분산이 안전을 높일 수 있다고 주장했다고 아스테크니카는 전했다.
