Meta veröffentlicht Muse Glimmer: Offenes 30B-Modell für lokale KI-Agenten

Meta veröffentlicht Muse Glimmer unter Apache 2.0

Am 10. August hat Meta Muse Glimmer veröffentlicht, ein 30 Milliarden Parameter großes Sprachmodell unter der Apache-2.0-Lizenz. Es ist die erste offene Veröffentlichung des Unternehmens seit Llama 4 und eine direkte Antwort auf die geschlossenen Modelle von OpenAI und Anthropic, wie Mark Zuckerberg in seinem Essay "The Future Is for Everyone" betont. Das Modell wurde auf unter 20 GByte quantisiert und läuft auf einer einzelnen Consumer-GPU. Die Gewichte sind sofort auf Hugging Face verfügbar, mit Day-0-Unterstützung in transformers, llama.cpp und vLLM.

Gebaut für lokale Agenten mit Tool-Nutzung und 120K-Kontext

Muse Glimmer ist abgestimmt auf Werkzeugnutzung, lange Aufgaben und Fehlerbehebung. Es behält seinen Zustand über Neustarts hinweg und verwaltet seinen Speicher selbstständig über stundenlange Sitzungen. Das Kontextfenster umfasst 120K+ Tokens und erlaubt die Verarbeitung umfangreicher Verläufe. Diese Eigenschaften machen das Modell zur Grundlage für dauerhaft laufende, lokale Agenten.

Lauffähig auf einer einzelnen Consumer-GPU – NVIDIA und AMD bestätigen

Das Modell ist klein genug für Consumer-Hardware wie Macs oder PCs mit leistungsfähigen GPUs und passt auf ein Laptop. NVIDIA gibt eine Leistung von 20K Tokens pro Sekunde auf einer einzelnen GPU an. AMD bestätigt den lokalen Betrieb auf Ryzen AI Max+ sowie Radeon AI PRO R9700. Die Quantisierung auf unter 20 GByte ermöglicht den Einsatz ohne Cloud-Anbindung.

Benchmarks: Überlegenheit gegenüber Gemma 3 4B und Llama 4 Maverick

Laut Artificial Analysis erreicht Muse Glimmer einen Intelligence Index von 35 und liegt damit 21 Punkte über Llama 4 Maverick (14). Es rückt in die Nähe von Kimi K2.5 (36) und knapp hinter Qwen3.6 27B (38). Die Vergleichsplattform llm-stats.com sieht das Modell in den meisten Benchmarks vor Gemma 3 4B, insbesondere beim anspruchsvollen GPQA-Test.

Widersprüchliche Messwerte: Tokens pro Sekunde und Qwen3.6-Vergleich

Bei der Inferenzgeschwindigkeit klaffen die Angaben auseinander: Während NVIDIA 20K Tokens pro Sekunde nennt, berichten Nutzer mit DFlash speculative decoding von 50+ Tokens pro Sekunde auf einer RTX 5090. Die Diskrepanz erklärt sich durch die spekulative Dekodierung, die den Durchsatz vervielfacht. Auch der Vergleich mit Qwen3.6 ist uneinheitlich: Artificial Analysis sieht Muse Glimmer hinter Qwen3.6, andere Quellen berichten von besseren Werten. Mögliche Ursachen sind selektive Benchmark-Auswahl und der Vorwurf, Qwen3.6 sei „benchmaxxed“, also auf Testdatensätze trainiert.

Day-0-Integration: Hugging Face, llama.cpp und vLLM

Zum Start ist Muse Glimmer in Hugging Faces transformers-Bibliothek, in llama.cpp und in vLLM integriert. Auch Inference Endpoints werden unterstützt. Die Gewichte liegen auf dem Hugging Face Hub und sind sofort abrufbar. Diese breite Unterstützung ermöglicht die nahtlose Einbindung in bestehende Workflows.

Metas Empfehlungen: Temperatur 1.0 und Training durch Muse Spark

Meta empfiehlt für die Inferenz eine Temperatur von 1.0. Das Modell entstand durch Kompression des größeren Muse Spark: Zunächst lernte Glimmer von Spark, wie komplexe Aufgaben zu lösen sind, dann wurde es auf die handliche Größe geschrumpft, die lokale Agenten ermöglicht.