KI SpotlightNewsIBM will Spyre mit vier Software-Bausteinen zum PyTorch-Backend machen
IBM und die PyTorch Foundation sehen den Plan vom Oktober 2025 erfüllt. Reifegrad, Multi-Accelerator-Scheduling und unabhängige Messungen sind offen.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- IBM und die PyTorch Foundation planen für 2026 tiefere Spyre-Unterstützung in PyTorch.
- Die aktuellen Spyre-Software-Updates umfassen torch-spyre, ein vLLM-Plugin, Compiler-Verbesserungen und Continuous-Integration-Arbeit.
- Spyre ist ein auf Inferenz optimierter Dataflow-KI-Beschleuniger für IBM Z, LinuxONE und Power.
- Spyre löst Berechnungen aus, sobald Daten bei den Recheneinheiten eintreffen, anders als GPUs.
- Der Inductor von torch-spyre verteilt die Kernel-Arbeit auf Spyre-Kerne und steuert die Tensor-Residenz.
IBM liefert vier Software-Bausteine für Spyre als PyTorch-Backend
IBM und die PyTorch Foundation melden Software-Updates für den Beschleuniger Spyre. Dazu gehören torch-spyre, ein vLLM-Plugin für Spyre, Compiler-Verbesserungen und Arbeit an der kontinuierlichen Integration (CI). Spyre ist laut IBM ein Dataflow-Beschleuniger für Inferenz. Gedacht ist er für Unternehmen, die KI neben ihren Anwendungen und Daten auf IBM Z, LinuxONE und Power betreiben.
Im Oktober 2025 hatten IBM und die PyTorch Foundation einen Plan für 2026 skizziert. Spyre sollte als First-Class-PyTorch-Backend laufen und Multi-Accelerator-Scheduling unterstützen. Nach IBMs Darstellung lösen die aktuellen Updates dieses Versprechen ein. Das ist eine Herstellerangabe.
Die Formulierungen weichen allerdings voneinander ab. Unite.ai schreibt, Spyre sei nun ein First-Class-Backend. Im IBM-Text, der nur gekürzt vorlag, heißt es dagegen, die Bausteine machten es „einfacher“, vertraute Modelle und Workflows auf eine andere Klasse von KI-Hardware zu bringen. Ob IBM den Status ausdrücklich als erreicht erklärt, lässt sich daraus nicht ableiten.
Spyre löst Berechnungen aus, sobald Daten eintreffen. Der Inductor verteilt die Arbeit.
Nach IBMs Architekturbeschreibung unterscheidet sich Spyre grundlegend von einer GPU. Eine GPU führt Kernels als Instruktionsströme über geplante Gruppen von Threads aus. Spyre dagegen löst Berechnungen aus, sobald Daten bei den Recheneinheiten ankommen.
Ein Teaser auf pytorch.org beschreibt die Rolle des Inductors in torch-spyre. Er entscheide, wie die Arbeit jedes Kernels auf die Spyre-Kerne aufgeteilt wird, und steuere die Tensor-Residenz zwischen dem On-Chip-Scratchpad und dem Off-Chip-Speicher. Der Backend-Compiler setze diese Entscheidungen anschließend um. Vom zugehörigen Beitrag lag nur dieser Auszug vor. Weitere technische Details sind daher nicht belegt.
Reifegrad, Multi-Accelerator-Scheduling und Benchmarks sind offen
Aus dem verfügbaren Material geht nicht hervor, ob die einzelnen Bausteine als Release, Beta oder Prototyp vorliegen. Auch ist unklar, ob das 2025 angekündigte Multi-Accelerator-Scheduling inzwischen ausgeliefert wurde. Benchmarks und unabhängige Bewertungen fehlen vollständig.
Auch IBMs Aussagen sind Herstellerangaben. Die reduzierte Präzision von Spyre passe gut zur matrixlastigen Arbeit bei Sprachgenerierung und Embedding-Modellen. Die Software erleichtere es, vertraute Modelle auf die Hardware zu bringen. Belegt ist beides nicht.
Teams, die Spyre einsetzen oder planen, sollten den offiziellen Backend-Status im torch-spyre-Repository und in der PyTorch-Dokumentation prüfen. Dazu gehören Release-Tags, Operator-Abdeckung und CI-Ergebnisse. Aussagekräftig wären außerdem Praxistests mit gängigen Hugging-Face-Modellen über vLLM auf Spyre-Hardware.
Parallel entsteht weitere Backend-Arbeit abseits von NVIDIA. Teaser auf pytorch.org nennen FlyDSL für AMD MI350 sowie TorchTPU, eine Zusammenarbeit von Google und Meta für Google TPUs. Belegt ist das bislang nur durch die Überschriften.
