NVIDIA Vera: Server-CPU für KI-Agenten tritt gegen x86 an – Herstellerzahlen und erste unabhängige Messungen liegen weit auseinander

Vera tritt als eigenständige Server-CPU gegen x86 an

NVIDIA bringt mit Vera eine CPU für agentische KI und Reinforcement Learning auf den Markt. Nach Herstellerangaben übernimmt sie die Arbeit rund um das Modell: Code-Ausführung, Tool-Nutzung, Sandboxing, Analytics, Datenpipelines und Orchestrierung. Vera dient als Host-CPU für beschleunigte Systeme. Erstmals positioniert NVIDIA sie auch als eigenständige Datacenter-Plattform, in Vera-Servern, Vera-Rubin-Systemen und Vera-BlueField-4-STX-Speicherplattformen. Grace bleibt laut NVIDIA die energieeffiziente Basis für beschleunigtes Computing, Hyperscale, Edge und Telco.

Ian Buck, VP Hyperscale und HPC bei NVIDIA, hat nach Unternehmensangaben erste Vera-Systeme an Anthropic, OpenAI und weitere Abnehmer übergeben. Die Liste ist im vorliegenden Material abgeschnitten.

88 Olympus-Kerne, LPDDR5X in SOCAMM-Modulen und NVLink-C2C mit 1,8 TB/s

Vera kombiniert 88 von NVIDIA entworfene Olympus-Kerne mit Spatial Multithreading und der Scalable Coherency Fabric (SCF) der zweiten Generation. Der Speicher besteht aus LPDDR5X mit ECC in austauschbaren SOCAMM-Modulen. Pro CPU nennt NVIDIA bis zu 1,2 TB/s Bandbreite und bis zu 1,5 TB Kapazität.

NVLink-C2C der zweiten Generation erreicht bis zu 1,8 TB/s bidirektional. Laut NVIDIA ist das das Siebenfache von PCIe Gen 6. Die Verbindung koppelt CPU und GPU kohärent, ebenso CPU mit CPU. Angaben zu Preisen, Taktraten oder Leistungsaufnahme enthält das Material nicht.

1,6-mal mehr Agenten pro Watt: NVIDIAs Rechnung für die 100-Megawatt-Fabrik

NVIDIA rechnet für ein 100-Megawatt-Rechenzentrum mit zwei Vergleichen. Gegenüber der schnellsten x86-CPU liefere Vera 1,6-mal mehr Agenten pro Watt bei führender Agentengeschwindigkeit. Gegen die energieeffizienteste x86-CPU sei die Agentengeschwindigkeit doppelt so hoch. Daraus folgert das Unternehmen, Betreiber müssten schnelle und dichte x86-Teile nicht mehr mischen. Welche Prozessoren verglichen wurden, nennt NVIDIA nicht.

Als Begründung führt NVIDIA Telemetrie aus 163.594 agentischen Sessions an. Über 97 % hätten einzigartige Verlaufsprofile gezeigt. Das mache eine Flotte aus mehreren spezialisierten CPU-Designpunkten schwer planbar. Der Ablauf bestehe aus einer langen, latenzgebundenen sequenziellen Kette mit sporadischen parallelen Bursts. Daraus leitet NVIDIA die Forderung nach einem ausgewogenen Designpunkt ab. Hinzu kommt ein Amdahl-Argument: Die seriellen CPU-Anteile der Agentenschleife bremsten den Systemdurchsatz. Beides sind Herstellerthesen, die bislang niemand unabhängig geprüft hat.

Perplexity, DeepInfra, Daytona und Modal melden Vorteile von 1,5 bis 2,2

Im NVIDIA-Blog stehen Partnerergebnisse. Perplexity berichtet von 1,5-fach schnelleren agentischen Coding-Aufgaben und plant den Einsatz von Vera in einem kommenden Produktionssystem. DeepInfra nennt bis zu 2,2-fache Geschwindigkeit bei der Agenten-Orchestrierung gegenüber dem besten x86-Prozessor.

ClickHouse gibt an, sein Standard-Binary skaliere ohne Vera-spezifisches Tuning nahezu linear über 176 Kerne. DuckLabs meldet etwa das 1,5-Fache der TPC-H-SF1000-Median-Leistung einer Xeon-6-Basis. Bei Daytona starten 1.000 Sandboxes in 10,8 statt 88,4 Sekunden. Modal nennt bis zu doppelten Sandbox-Durchsatz pro Kern. Weil diese Zahlen über NVIDIAs eigenen Blog vermittelt werden, sind sie keine unabhängige Prüfung.

Phoronix sieht 10 % Vorsprung, ServeTheHome gemischte Ergebnisse

Unabhängige Messungen fallen nüchterner aus. Phoronix testete in einem ersten Durchgang, den NVIDIA auf die Zielmärkte eingeschränkt hatte. Geometrisch gemittelt lag Vera 10 % vor dem AMD EPYC 9575F mit 5,0 GHz. Vor Grace lag Vera beim 1,63-Fachen, vor einem einzelnen Intel Xeon 6980P beim 1,55-Fachen.

ServeTheHome verweist auf Benchmarks von Redpanda. NVIDIA hatte Redpanda frühen Zugang zu Vera gegeben, damit das Unternehmen benchmarkt. ServeTheHome nennt die Ergebnisse deshalb nur „third-party (ish)“ und erwartet von einem von NVIDIA unterstützten Benchmark günstige Zahlen. Redpandas Tests seien zudem nicht umfassend. Vera liegt demnach bei Long-Tail-Latenzen und SQL klar vor EPYC 9005 (Turin) und Xeon 6 (Granite Rapids). Bei der Inter-Core-Kommunikation ist Vera mit wenigen Kernen zurück und zieht bei etwa 64 Kernen deutlich davon. Kritik übt ServeTheHome an NVIDIAs Wahl des EPYC 9755 als Vergleichspunkt. Passender wären der EPYC 9575F oder der 96-kernige EPYC 9655, weil sie näher an Veras Auslegung und Kernzahl liegen. Der 9755 laufe unter Last mit rund 10 bis 28 % niedrigerem Takt.

Warum 1,6-mal und 10 % nicht direkt vergleichbar sind

Zwei Widersprüche bleiben offen. Erstens nennt NVIDIA für die Sandbox-Leistung uneinheitliche Werte: bis zu 80 % schneller, 1,8-fach, an anderer Stelle bis zu 2-fach. ServeTheHome gibt 1,5-fache Leistung gegenüber einer ungenannten x86-CPU wieder. Zweitens stehen NVIDIAs Faktoren von 1,5 bis 2,2 den 10 % bis 1,55-fach von Phoronix gegenüber.

Die wahrscheinliche Ursache liegt in Metrik, Baseline und Workload. NVIDIA misst agentenspezifische Szenarien auf Rechenzentrumsebene, etwa Agenten pro Watt, gegen ungenannte Prozessoren. Phoronix vergleicht einzelne CPUs über einen breiteren Benchmark-Mix mit benannten Spitzenmodellen. Das Material löst den Widerspruch nicht auf, und die Baseline wird nirgends genannt. Offen ist auch NVIDIAs Aussage, Vera erzeuge mehr Tokens pro Dollar. Preise liegen nicht vor.

Was Infrastrukturplaner mit eigenen Workloads prüfen sollten

Sollten die Herstellerzahlen zutreffen, könnten NVIDIA und Betreiber leistungsbegrenzter KI-Fabriken profitieren. AMD, Intel und andere Arm-Anbieter gerieten dann unter Druck. Belegt ist das bisher nicht. Mit Vera ergänzt NVIDIA seine Agenten-Blueprints wie FOX und den SRE-Agenten für DGX-SuperPODs um die Hardware-Schicht. Planer sollten Veras Zahlen deshalb mit eigenen Workloads gegen die eigene x86-Flotte prüfen.