Live PACT passt Zeitreihenmodelle lokal an neue Betriebsbedingungen an
↘

Cerebras setzt Prefill-Decode-Trennung in Produktion ein: Faktor 5 bei Tokens pro Megawatt

Der Hersteller meldet fünfmal mehr Tokens pro Megawatt bei gleicher Geschwindigkeit – die Zahl stammt aus einer Eigenmessung auf einem einzelnen Endpoint

· Veröffentlicht: 21.11.2026 ·2 Min Lesezeit
Cerebras setzt Prefill-Decode-Trennung in Produktion ein: Faktor 5 bei Tokens pro MegawattMit KI erstellt
Inhalt
◆ Fakten auf einen Blick
  • Cerebras hat disaggregierte Inferenz entwickelt: GPUs übernehmen Prefill, Cerebras-Systeme übernehmen Decode.
  • Cerebras gibt fünfmal mehr Tokens pro Megawatt bei gleicher Geschwindigkeit an; Eigenmessung.
  • Die Lösung läuft auf der Cerebras Inference Cloud; Infrastrukturpartner können sie in eigenen Rechenzentren nutzen.
  • Frühe Zugangspartner laut Sekundärquelle: AWS, Fireworks AI, Gimlet Labs und General Compute.

Cerebras trennt Prompt-Verarbeitung und Token-Erzeugung und meldet Produktionsbetrieb

Nach eigenen Angaben hat Cerebras eine disaggregierte Inferenz-Architektur in den Produktionsbetrieb überführt. GPUs übernehmen das Prefill, also die Verarbeitung des Prompts. Die Cerebras-Wafer-Scale-Systeme erledigen das Decode, die Erzeugung der Ausgabe-Tokens. Die Lösung sei „now in production“ und liefere fünfmal mehr Tokens pro Megawatt bei unveränderter Cerebras-Geschwindigkeit, heißt es im Unternehmensblog. Betrieben wird sie in der Cerebras Inference Cloud.

Beim Decode greift das System für jeden einzelnen Token erneut auf die Modelldaten im Speicher zu. Cerebras sieht sich hier durch seinen On-Chip-Speicher im Vorteil und spricht von „lightning-fast“ Tokens. Beides sind Herstellerangaben, die niemand unabhängig geprüft hat. Als Nachfragetreiber nennt das Unternehmen agentische Anwendungen wie Muse, Copilot und Codex. Diese brauchten hochinteraktive Inferenz in einer strombegrenzten Umgebung.

Der Faktor 5 stammt aus einer Eigenmessung auf einem GPT-OSS-120B-Endpoint

Der Faktor 5 beruht auf einer Messung, die Cerebras selbst durchgeführt hat. Laut Cerebras lief sie am 14. November auf einem geteilten GPT-OSS-120B-Endpoint der eigenen Cloud. Verglichen wurde der Durchsatz pro Megawatt vor und nach Aktivierung der Disaggregation. Als Vergleichsbasis nennen Berichte von Testedintelligence und Letsdatascience eine reine CS-3-Konfiguration. Auf der GPU-Seite kommen demnach AMD-Instinct-GPUs zum Einsatz; Nvidia wird nicht genannt. Die Zahl gilt damit für ein Modell, einen Endpoint und einen Messtag.

Unklar bleibt der Bezug zu einer früheren Veröffentlichung. Ein Cerebras-Erklärartikel nannte einen 5-fachen Durchsatz „in early results“ bei gleicher Systemzahl und ohne Verlust bei der Token-Geschwindigkeit. Dort geht es um Durchsatz, hier um Tokens pro Megawatt. Ob beide Angaben dieselbe Messung meinen, ist nicht bekannt. Auch beim Datum der Bekanntgabe weichen die Berichte voneinander ab: Letsdatascience und Testedintelligence nennen den 17. November, Emergent den 18. November. Den Cerebras-Blogeintrag konnten wir nur gekürzt auswerten.

Partner sollen per Referenzarchitektur oder Decode-only-SDK einsteigen können

Infrastrukturpartner können die Lösung laut Cerebras in eigenen Rechenzentren nutzen. Der Einstieg läuft über eine Referenzarchitektur, entweder mit dem End-to-End-Software-Stack von Cerebras oder mit einem Decode-only-SDK. Als frühe Zugangspartner nennt Letsdatascience AWS, Fireworks AI, Gimlet Labs und General Compute.

Cerebras verbindet die Ankündigung mit dem kürzlich vorgestellten CS-4, einer ausgeweiteten Fertigung und geplanten 700 Megawatt Rechenzentrumskapazität. Ab 2027 will das Unternehmen deutlich mehr schnelle Tokens liefern. Unabhängige Messungen und Praxisberichte von Partnern gibt es bislang nicht. Der Faktor 5 bleibt vorerst eine Herstellerangabe.

A
Andreas Rüdiger
Herausgeber & Redaktionsleitung · KI-Modelle, Technik & Business

Andreas Rüdiger ist Gründer der Agentur INREMA und verantwortet KI Spotlight redaktionell. Sein Schwerpunkt liegt auf KI-Modellen, Recheninfrastruktur, technischen Entwicklungen und der wirtschaftlichen Einordnung. Er sorgt dafür, dass komplexe KI-Themen verständlich und nachvollziehbar aufbereitet werden. Mehr zu ihm auf inrema.de und andiger.de.

Ähnliche Artikel