Meta Superintelligence Labs에서 공개한 Muse Glimmer는 로컬 환경에서의 에이전트 워크플로우에 최적화된 300억(30B) 파라미터 규모의 오픈 웨이트 모델입니다. Apache 2.0 라이선스로 배포되는 이 모델은 클라우드 의존성을 제거하고, 개인용 PC나 Mac 등 소비자용 하드웨어에서 고성능 AI 에이전트를 구동하는 것을 목표로 합니다.

핵심 방법론 및 학습 과정

Muse Glimmer는 제한된 연산 자원 내에서 추론 능력과 에이전트 기능을 극대화하기 위해 다단계 학습 전략을 채택했습니다.

1. Pre-Training: 더 큰 규모의 모델인 Muse Spark의 출력을 활용한 Logit Distillation을 수행했습니다. 선생 모델의 데이터 믹스를 모사하여 지식을 효과적으로 전이했습니다.
2. Mid-Training: 보다 긴 문맥(long-context)과 에이전트 중심의 데이터, 풍부한 추론 과정을 포함하는 유기적 데이터를 학습하여 복잡한 에이전트 작업에 대비했습니다.
3. Post-Training: Supervised Fine-Tuning(SFT)을 기반으로 일반 추론, 코딩, 에이전트 도메인에 걸쳐 On-policy Distillation과 Reinforcement Learning(RL)을 결합하여 정교한 미세 조정을 거쳤습니다.

로컬 최적화 및 기술적 상세

모델의 실시간 구동을 위해 다음의 두 가지 핵심 최적화 기술이 적용되었습니다.

• Quantization: 고용량의 30B 모델을 약 4-bit 정밀도로 압축하여 전체 용량을 20GB 미만으로 줄였습니다. 이를 통해 24GB~32GB 메모리 환경에서도 모델 가중치, KV Cache, 이미지 처리를 위한 Perception Encoder, 그리고 Speculative Decoding용 드래프터 모델을 동시에 메모리에 상주시켜 구동할 수 있습니다.
• Speculative Decoding: DFlash 기반의 경량화된 '드래프터(drafter)' 모델을 활용합니다. 드래프터가 여러 토큰을 한 번에 생성(propose)하면, 메인 모델이 이를 병렬적으로 검증(verify)하는 방식을 취합니다. 이는 기존의 토큰 단위 생성 방식보다 지연 시간(latency)을 획기적으로 단축하면서도 출력 품질은 메인 모델과 동일하게 유지합니다.

주요 기능 및 에이전트 능력

• End-to-end Agentic Task Completion: DeepSearch QA, MCP-Atlas, $\tau$-Bench, SWE-Bench 등에서 검증된 강력한 에이전트 성능을 발휘합니다.
• Reliable Tool Use: 정교한 스키마 기반의 함수 호출(Function Calling)과 실패 시 진단 및 재시도(Failure Recovery) 기능을 갖추었습니다.
• Multimodal Reasoning: 전용 Perception Encoder를 통해 텍스트와 이미지가 혼합된 입력을 처리하며, 도표나 스크린샷 등을 해석할 수 있습니다.
• Scaffold Compatibility: OpenClaw 등 다양한 에이전트 오케스트레이션 패턴과 호환되며, 100개 이상의 언어를 지원하는 다국어 모델입니다.

Muse Glimmer는 llama.cpp, MLX, ExecuTorch와 같은 프레임워크를 통해 즉각적인 배포를 지원하며, TorchTitan을 통해 추가적인 튜닝 또한 가능합니다. 이를 통해 개발자는 개인화된 로컬 에이전트 시스템을 효율적으로 구축할 수 있습니다.