KI SpotlightNewsNvidia stellt NVHBM vor: Custom-HBM mit Controller im Base-Die
Technologie für Custom-XPUs von Hyperscalern und KI-Firmen, nicht für Nvidias eigene GPUs
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Nvidia hat NVHBM als Custom-HBM-Base-Die-Technologie angekündigt.
- NVHBM ist Teil der NVLink-Fusion-Plattform von Nvidia.
- Der Speicher-Controller wird vom Compute-Die in das HBM-Base-Die verlagert.
- NVHBM soll bis zu 30% höhere Speicherbandbreite als HBM4E bieten.
- NVHBM soll den HBM-Stromverbrauch um bis zu 15% senken.
- Durch die Verlagerung des Controllers können bis zu 25% der Compute-Die-Fläche eingespart werden.
Nvidia stellt NVHBM für Custom-XPUs vor
Nvidia hat mit NVHBM eine Custom-HBM-Base-Die-Technologie angekündigt. Sie ist Teil der NVLink-Fusion-Plattform, mit der Hyperscaler und KI-Unternehmen eigene Beschleuniger – sogenannte Custom-XPUs – entwickeln und dabei Nvidias Interconnect- und Rack-Technologien nutzen können. Kern von NVHBM ist die Verlagerung des Speicher-Controllers: Statt auf dem Compute-Die sitzt er künftig im Base-Die des HBM-Stapels. Zur Kommunikation zwischen HBM und Compute-Die setzt Nvidia auf kleine NVLink-Schnittstellen. Die bei HBM4 übliche Aufteilung in DRAM-Lagen und ein separates Logik-Base-Die nutzt Nvidia, um den Controller direkt im Base-Die unterzubringen. NVHBM richtet sich ausdrücklich an Custom-XPUs von Hyperscalern und KI-Firmen, nicht an Nvidias eigene GPUs.
Bis zu 30 Prozent mehr Bandbreite, 15 Prozent weniger Strom
Nach Angaben Nvidias soll NVHBM bis zu 30 Prozent höhere Speicherbandbreite als HBM4E bieten. Der HBM-Stromverbrauch lasse sich um bis zu 15 Prozent senken. Weil der Speicher-Controller nicht mehr auf dem Compute-Die untergebracht werden muss, können laut Nvidia bis zu 25 Prozent der Compute-Die-Fläche eingespart und für zusätzliche Rechenressourcen genutzt werden. Nvidia plant nicht, NVHBM selbst zu fertigen. Stattdessen setzt das Unternehmen auf eine standardisierte Implementierung, die von mehreren Speicherlieferanten produziert werden kann. Dies soll Kunden mehr Flexibilität bei Beschaffung und Qualifizierung geben.
Amazon Annapurna Labs als erster Partner
Als erster Partner wird Amazon Annapurna Labs NVHBM zusammen mit NVLink Fusion nutzen. Die nächste Trainium-Plattform soll beide Technologien kombinieren. Als mögliche Fertiger von NVHBM kommen die drei führenden HBM-Hersteller Samsung, SK Hynix und Micron infrage. Diese drei Unternehmen sind die einzigen Hersteller, die High-Bandwidth-Memory in großen Stückzahlen fertigen können. HBM4 ist seit April 2025 ein JEDEC-Standard; die Aufteilung in DRAM-Lagen und ein separates Logik-Base-Die erlaubt herstellerspezifische Optimierungen im Base-Die, die Nvidia mit seinem eigenen Controller-Design nun nutzt.
