Liquid AI veröffentlicht 24-Milliarden-Modell mit rund 2 Milliarden aktiven Parametern

Liquid AI veröffentlicht 24-Milliarden-Modell mit nur 2 Milliarden aktiven Parametern

Liquid AI hat LFM2.5-24B-A2B veröffentlicht, ein offenes Mixture-of-Experts-Modell für Agenten und Tool-Use auf Endgeräten. Das Modell umfasst 24 Milliarden Parameter, von denen pro Token rund 2 Milliarden aktiv sind. Das Kontextfenster reicht bis 131K Token. Laut Model Card, wie Unite.ai sie wiedergibt, sind es genau 24,0 Milliarden Gesamt- und 2,45 Milliarden aktive Parameter.

Es handelt sich um ein reines Reasoning-Modell. Vor jeder Antwort erzeugt es eine explizite Gedankenkette. Liquid stellt Base- und Post-Trained-Checkpoints auf Hugging Face bereit. Unite.ai nennt den 13. Oktober 2026 als Veröffentlichungsdatum, diese Angabe stammt aus zweiter Hand.

Die Architektur ist unverändert: 40 Layer, 64 Experten pro MoE-Block mit Top-4-Routing sowie eine hybride Mischung aus gated Short Convolutions und Grouped-Query Attention (GQA). Liquid bezeichnet LFM2.5-24B-A2B als größtes und letztes Modell der LFM2.5-Familie. Diese reicht bis hinunter zu LFM2.5-230M.

Mehr Kontext, größeres Vokabular, Agenten-Training: Was gegenüber LFM2-24B-A2B neu ist

Gegenüber dem Vorgänger LFM2-24B-A2B wächst das Kontextfenster von 32K auf 131K Token. Eine Erweiterung des Tokenizers verdoppelt das Vokabular von 65K auf 128K Token. Nicht-lateinische Schriften sollen dadurch besser zerlegt werden. Neu ist zudem der reine Reasoning-Modus, den der Vorgänger nicht besaß.

Liquid gibt an, das Pretraining von rund 17 auf rund 33 Billionen Token hochskaliert zu haben. Hinzu kommt Mid-Training mit 2 Billionen Token bei 32K Kontext und 300 Milliarden Token bei 131K Kontext. In beiden Phasen fließen Tool-Calls und Multi-Turn-Trajektorien ein. Das Post-Training verläuft in fünf Stufen, darunter überwachtes Feintuning (SFT) und Multi-Domain On-Policy Distillation (MOPD).

Unite.ai nennt laut Model Card ein Trainingsbudget von 36 Billionen Token und damit mehr als die rund 33 Billionen Token, die Liquid für das Pretraining angibt. Die Differenz könnte aus einer anderen Zählweise stammen, etwa Pretraining gegenüber Gesamtbudget. Geklärt ist das nicht, weil die Model Card selbst nicht vorlag.

Ähnlich verlief der Schritt von LFM2-8B-A1B zu LFM2.5-8B-A1B. Auch dort wuchsen Kontext, Pretraining-Umfang und Vokabular, und das Modell wurde zum reinen Reasoning-Modell.

Benchmark-Vorsprung gegenüber Qwen3.6-35B-A3B: Zahlen nur vom Hersteller

Laut Liquid AI erreicht das Modell auf LiveClaw 48,09 Punkte. Qwen3.6-35B-A3B kommt demnach auf 38,19. Das Unternehmen sieht das Modell als konkurrenzfähig zu einem Modell mit rund 50 Prozent mehr Gesamt- und aktiven Parametern. Außerdem nennt Liquid 184 Token pro Sekunde auf einem Apple M5 Max und bis zu 21K Output-Token pro Sekunde auf einer einzelnen NVIDIA B300. Alle diese Werte sind Herstellerangaben. Eine unabhängige Bestätigung liegt nicht vor.

Für eine Überprüfung müssten Thinking-Modus, Prompts und Scaffold geklärt sein, denn sie beeinflussen Agenten-Benchmarks erheblich. Die 184 Token pro Sekunde sind zudem eine Decode-Rate. Die Latenz eines Agenten hängt davon ab, wie viele Denk-Token das Modell vor der Antwort erzeugt.

Laut Liquid-Dokumentation läuft die Modellfamilie unter Transformers, llama.cpp, vLLM, SGLang, MLX und Ollama. Verfügbar sind die Formate GGUF, MLX und ONNX. Da das Modell stets zuerst nachdenkt, sollten Anwender Latenz und Speicherbedarf auf ihrer Zielhardware selbst messen.