Sechste LAICS-Ausgabe vergleicht über 120 KI-Beschleuniger

Sechste LAICS-Ausgabe erfasst über 120 KI-Beschleuniger

Das MIT Lincoln Laboratory Supercomputing Center (LLSC) hat die sechste Ausgabe seiner Lincoln AI Computing Survey (LAICS) veröffentlicht. Die seit 2018 laufende Erhebung dokumentiert kommerzielle KI-Beschleuniger und vergleicht deren Spitzenleistung (Peak Performance) und Spitzenstromverbrauch (Peak Power). Während die erste Erhebung 57 Geräte umfasste, erfasst die aktuelle Version nach Angaben des LLSC mehr als 120 kommerzielle KI-Acceleratoren. Die Umfrage kategorisiert die Hardware nach Formfaktor – Chip, Karte oder komplettes System – und deckt fünf Beschleunigertypen ab: CPUs, GPUs, ASICs, FPGAs und Dataflow-Architekturen. Auslöser für die Reihe waren nach Aussage von Albert Reuther, Mitarbeiter am LLSC, Fragen von Regierungsauftraggebern angesichts einer stark steigenden Zahl angekündigter KI-Beschleuniger. Die Erhebung dient nach LLSC-Angaben dazu, Regierungsauftraggebern und Forschenden Orientierung in einem schnell wachsenden Hardware-Markt zu bieten. Die neue Ausgabe ist auf arXiv unter dem Titel 'Lincoln AI Computing Survey (LAICS) and Trends' verfügbar.

Generative KI treibt Nachfrage – Methodik mit Scatterplot

Das Paper stellt fest, dass generative KI-Modelle (GenAI) im vergangenen Jahr enorme Aufmerksamkeit erhalten haben, was wiederum die Aufmerksamkeit für Rechensysteme für Training und Inferenz erhöht hat. Aus diesem Grund sei ein Update der Umfrage fällig. Damit erwähnt die Erhebung erstmals ausdrücklich den Einfluss generativer KI auf das gestiegene Interesse an entsprechenden Rechensystemen.

Die Methodik bleibt der Tradition der Reihe treu: Die Leistungs- und Verbrauchswerte werden in einem Scatterplot mit den Achsen Spitzenleistung (Peak Performance) und Spitzenstromverbrauch (Peak Power) dargestellt. Diese Darstellungsform erlaubt einen direkten visuellen Vergleich der Zielkonflikte zwischen Rechenleistung und Energiebedarf verschiedener Hardware. Marktsegmente sind darin hervorgehoben, und für jedes Segment sind vergrößerte Ausschnitte enthalten. Die Hervorhebung und Vergrößerung der Segmente ermöglicht eine detaillierte Analyse der Unterschiede innerhalb einzelner Hardware-Kategorien, etwa zwischen GPUs, ASICs oder FPGAs. Die zugrunde liegenden Daten stammen nach Angaben der Autoren aus öffentlichen Quellen wie Pressemitteilungen, technischen Präsentationen und Unternehmensankündigungen. Reuther überwacht diese nach eigenen Angaben durch tägliche automatisierte Suchen. Die Autoren diskutieren zudem mehrere Dimensionen und Beobachtungen aus den Trends des Diagramms. Durch die systematische Erfassung und grafische Aufbereitung von Spitzenleistung und Spitzenstromverbrauch liefert die Umfrage eine standardisierte Vergleichsbasis für die Bewertung von KI-Hardware.

Autoren und Förderung der Umfrage

Hauptautoren der Umfrage sind Albert Reuther, Michael Jones, Peter Michaleas, Jeremy Kepner und Vijay Gadepally. Reuther ist Mitarbeiter am LLSC, das die Hochleistungsrechnersysteme des Labors betreibt und optimiert. Die Arbeit wurde nach Angaben im Paper vom Under Secretary of Defense for Research and Engineering unter Air Force Contract No. FA8702-15-D-0001 oder FA8702-25-D-B002 unterstützt. Die Autoren weisen darauf hin, dass die geäußerten Meinungen und Schlussfolgerungen ihre eigenen sind und nicht notwendigerweise die Ansichten des Under Secretary of Defense for Research and Engineering widerspiegeln. Die Umfrage wird seit 2018 vom LLSC durchgeführt und hat sich zu einer Referenz für die Bewertung kommerzieller KI-Hardware entwickelt, da sie über sechs Ausgaben hinweg systematisch Beschleuniger katalogisiert und Regierungsauftraggebern sowie Forschenden eine konsistente Vergleichsbasis bietet.