오늘 저희는 Meta Superintelligence Labs의 차세대 모델인 Muse Glimmer를 소개하며, 이 모델 가중치를 관대한 Apache 2.0 라이선스 하에 오픈 소싱합니다.
Muse Glimmer는 항상 작동하는 로컬 에이전트 워크플로우에 최적화된 300억 매개변수 모델입니다. Mac이나 PC의 단일 소비자 GPU로 실행할 수 있을 만큼 작아, 로컬 에이전트 및 함수 호출부터 로컬 코딩, LLM-as-a-judge 평가에 이르기까지 다양한 사용 사례를 가능하게 합니다. Muse Glimmer는 크기 범주 내 주요 에이전트 사용 사례 및 벤치마크에서 선도적인 모델들과 비교하여 강력한 성능을 제공합니다.
파운데이션 모델은 추론, 코드 생성, 도구 사용 전반에 걸쳐 놀라운 역량을 달성했지만, 대부분의 배포는 여전히 클라우드 인프라와 네트워크 접근에 의존하고 있습니다. 모델을 로컬에서 실행하면 인터넷 연결 유무와 관계없이 어디서든 언제든지 AI를 사용할 수 있게 됩니다. 이는 점점 더 실현 가능해지고 있는데, 오픈 소스 커뮤니티는 작지만 효과적으로 훈련된 모델들이 특정 작업에서 최첨단 수준의 성능에 근접할 수 있음을 보여주었습니다. Muse Glimmer는 이러한 로컬 사용 사례에 최적화되었습니다.
근본적인 AI 연구를 공유해 온 오랜 전통을 이어가며, 저희는 오늘 Hugging Face에 Muse Glimmer 오픈 가중치를 공개하고, 개발자가 자신만의 에이전트를 구축하고 실행하는 데 도움이 되는 개발자 문서를 함께 제공합니다. Muse Glimmer는 개발자들이 이미 사용하는 도구들과 작동하도록 설계되었습니다. llama.cpp, MLX, ExecuTorch에 대한 최적화된 통합 기능들이 며칠 안에 공개될 예정이므로, 다운로드부터 작동하는 에이전트까지 몇 분 만에 구현할 수 있습니다.
Muse Glimmer를 훈련한 방법
사용자의 일정을 관리하고, 메시지를 초안 작성하며, 파일을 정리하고, 사용자가 일하는 방식을 학습하는 에이전트는 개인적인 컨텍스트에 깊이 접근해야 합니다. 또한 장기 실행(long-horizon execution), 정밀한 도구 호출(precise tool calling), 멀티모달 이해(multimodal understanding), 장문 컨텍스트 메모리(long-context memory), 그리고 명령어 준수(instruction following)와 같은 여러 기능들이 함께 작동할 수 있어야 합니다.
Muse Glimmer는 로컬 하드웨어의 메모리 및 컴퓨팅 제약 조건 대비 성능을 균형 있게 갖추도록 설계되었습니다. 이를 위해, 훨씬 더 큰 교사 모델(teacher model)로부터 에이전트적 추론(agentic reasoning)을 전이하는 새로운 증류 방식(distillation recipe)과 양자화(quantization)를 포함한 추론 최적화가 필요한 컴팩트한 아키텍처가 요구되었습니다. 저희는 다음 단계들을 거쳐 이를 달성했습니다:
사전 학습(Pre-Training). Muse Glimmer는 교사와 유사한 데이터 혼합을 활용하여 로그잇 증류(logit distillation) 방식으로 Muse Spark의 출력을 이용해 훈련되었습니다.중간 학습(Mid-Training). 저희는 유기적인 데이터와 함께 더 긴 컨텍스트, 에이전트 중심적이며 풍부한 추론 흔적(reasoning traces)을 가진 데이터를 사용하여 모델을 훈련했습니다.사후 학습(Post-Training). 일반, 추론, 코딩, 에이전트 영역 전반에 걸쳐 지도 미세 조정(supervised fine-tuning)과 온-폴리시 증류(on-policy distillation), 그리고 강화학습(RL)을 결합하여 수행했습니다.
Muse Glimmer는 Meta의 Advanced AI Scaling Framework에서 제시된 기준에 따라 평가되었으며, 모든 관련 카테고리에서 오픈 웨이트(open-weight) 출시를 위해 평가되었습니다.
에이전트를 위해 구축되다: Muse Glimmer가 할 수 있는 것
효과적인 에이전트를 구축하려면 사용자의 목표를 달성하기 위해 여러 핵심 기능들이 함께 작동해야 합니다. Muse Glimmer는 다음 각 영역에 걸쳐 훈련되고 평가되었습니다:
엔드투엔드 에이전트 작업 완료(End-to-end Agentic Task Completion). Muse Glimmer는 DeepSearch QA, MCP-Atlas, $ au$-Bench, SWE-Bench를 포함한 전체 작업 벤치마크에서 높은 성공률을 달성합니다. 이 벤치마크들은 스캐폴드 내에서 작동하는 능력, 코드를 작성하고 디버깅하는 능력, 그리고 시작부터 끝까지 다중 턴 요청을 해결하는 능력을 측정합니다.신뢰할 수 있는 도구 사용(Reliable Tool Use). 이 모델은 광범위한 함수 호출을 처리하며, 확장된 워크플로우 전반에 걸쳐 정밀한 스키마로 도구를 호출합니다.다단계 추론(Multi-Step Reasoning). Muse Glimmer는 장기적인 지평에 걸쳐 추론을 연결하고 복잡하고 확장된 워크플로우 전반에 일관된 계획을 유지합니다.실패 복구(Failure Recovery). 도구 호출이 실패하거나 예상치 못한 결과를 반환할 때, 모델은 멈추는 대신 오류를 진단하고 재시도하도록 훈련되었습니다.멀티모달 입력 및 추론(Multimodal Input and Reasoning). 전용 인식 인코더(perception encoder)를 통해 이 모델은 교차되는 텍스트와 이미지를 수락합니다. 이를 통해 에이전트는 대화와 함께 스크린샷, 차트, 문서를 해석할 수 있습니다.스캐폴드 호환성(Scaffold Compatibility). Muse Glimmer는 OpenClaw 및 기타 에이전트 오케스트레이션 패턴에서 작동합니다.제어 가능한 노력(Controllable Effort). Muse Glimmer는 품질과 속도 사이의 적절한 균형을 선택하기 위해 다양한 추론 강도를 지원합니다.다국어(Multilingual). Muse Glimmer는 100개 이상의 언어로 된 데이터로 훈련되었습니다.## 성능(Performance)We evaluated Muse Glimmer across a broad range of benchmarks to assess the diverse capabilities required for effective autonomous agent behavior. Compared with Gemma4-31B and Qwen3.6-27B, Muse Glimmer performs strongly for its size class on several widely used LLM benchmarks.For more detail about our evaluations, see our report.## 로컬 배포에 최적화(Optimized for Local Deployments)A local agent is truly useful if it's fast enough to feel responsive. An agent that takes minutes to reply or plan its next step breaks the flow of real work. We applied two optimizations to make Muse Glimmer run at practical speeds on consumer hardware without sacrificing quality.### 장치에 모델 맞추기(Fitting the Model on Your Device.)
최대 정밀도(full precision)로 구동되는 300억 개 매개변수 모델은 55GB 이상의 메모리를 필요로 하며, 이는 일반적인 소비자용 GPU가 제공하는 용량을 훨씬 초과합니다. 우리는 양자화 기법(quantization techniques)을 사용하여 모델 가중치(weights)를 약 4비트 정밀도로 압축함으로써 언어 모델의 크기를 20GB 미만으로 줄였습니다. 이로써 모델의 작업 메모리("KV 캐시"), 이미지 이해를 위한 인식 인코더(perception encoder), 그리고 추측 디코딩 드래프터(speculative decoding drafter)가 24GB 또는 32GB 환경 내에서 동시에 실행할 수 있는 충분한 여유 공간이 확보됩니다. 우리는 이러한 압축 과정이 에이전트 작업(agentic tasks)에 최소한의, 혹은 전혀 성능 저하를 일으키지 않음을 검증했습니다.
추측 디코딩을 통한 더 빠른 생성 속도.
언어 모델은 일반적으로 한 번에 하나의 토큰씩 텍스트를 생성하기 때문에, 긴 추론 과정이나 다단계 도구 호출(multi-step tool calls) 중에는 느리게 느껴질 수 있습니다. Muse Glimmer는 DFlash 기반의 경량 "드래프터"(drafter) 모델을 탑재하고 있습니다. 이는 전체 토큰 블록을 한 번에 제안하는 작은 보조 네트워크입니다. 이후 주(main) 모델은 이 제안들을 병렬로 검증하여, 올바른 토큰은 수용하고 잘못된 토큰은 수정합니다. 이 기술 덕분에 Muse Glimmer는 표준적인 토큰별 생성 방식보다 훨씬 빠르게 텍스트를 생성하면서도 동일한 출력 품질을 유지할 수 있습니다. 우리는 출시 시 메모리 오버헤드를 줄이기 위해 양자화된 드래프터 버전을 제공합니다.
결과:
우리는 MacBook M4-Max, M5-Max 및 RTX-5090에서 K-Quant-17GB 모델과 양자화된 DFlash 드래프터를 함께 측정했습니다. 이 모델은 모든 것이 장치 내에서 완전히 구동되면서도 유연한 대화와 실시간 에이전트 상호작용에 충분히 빠른 속도를 제공합니다.
오늘 Muse Glimmer를 시작하세요
Muse Glimmer는 현재 사용 가능하며, Hugging Face에서 가중치를 다운로드할 수 있습니다. 앞으로 며칠 동안 Ollama, LM Studio, Unsloth와 같은 파트너를 통해 로컬로 실행하거나, llama.cpp, ExecuTorch, MLX를 포함한 엣지 프레임워크에 배포하고, vLLM 및 SGLang으로 대규모 서비스할 수 있습니다. 또는 Together AI, Fireworks AI, OpenRouter와 같은 파트너를 통해 빠르게 시작할 수도 있습니다. PyTorch의 TorchTitan 학습 기능을 활용하여 모델을 추가로 조정함으로써 사용 사례에 맞게 사용자 정의할 수도 있습니다.
또한 AMD, Arm, Dell, Intel, NVIDIA를 포함한 파트너들과 협력하여 장치 전반에 걸쳐 성능 최적화를 진행하고 있습니다. 게다가 개발자들이 Muse Glimmer를 가지고 책임감 있게 시작하고 구축하는 데 필요한 리소스를 제공하기 위해 문서를 공개할 예정입니다. 여기에는 사용자 지정 스캐폴드 설정에 대한 안내가 포함되어 있어, 첫날부터 개인 에이전트를 구축하고 배포하는 것이 더욱 쉬워졌습니다. Meta의 AI 개발자 센터에서 더 많은 정보를 얻고 구축에 필요한 리소스를 찾을 수 있습니다.
이 작업은 Meta의 오랜 오픈 AI 연구 기록을 기반으로 하며, 이를 에이전트형 AI(agentic AI)로 확장하여 개발자들에게 로컬 에이전트 기능을 사용할 수 있게 합니다. 언제나 그렇듯이, 커뮤니티의 피드백을 환영하며, 이 오픈 웨이트 모델로 개발자들이 무엇을 만들지 기대하고 있습니다.
Hugging Face에서 모델 다운로드 개발자 문서