Halley soll Ausfälle in optischen KI-Netzen vorhersagen und vor dem Fehler eingreifen

Halley sagt Ausfälle in optischen KI-Netzen voraus und handelt vor dem Fehler

Manav Mishra und Krishna M. Sivalingam haben das Paper „Halley: A Predictive Control Plane for Optical AI Data Center Networks“ veröffentlicht. Es ist auf arXiv und Hugging Face abrufbar. Halley ist eine Steuerungsebene (Control Plane) für die optischen Netze in KI-Rechenzentren. Sie liest den nächsten Zustand einzelner Ressourcen aus und greift ein, bevor ein Ausfall eintritt.

Zwischen den Racks läuft das Netz optisch. Nach Angaben der Autoren arbeitet jede der vier Schichten, von den Lasern bis zu den Switches, mit einer festen oder erst nachträglich reagierenden Policy. Halley setzt auf jeder Schicht einen vorausschauenden Regler ein. Ist dieser unsicher, fällt er auf die bereits eingesetzte Policy zurück. So bleibt das Risiko begrenzt, dass eine falsche Vorhersage schlechter ausgeht als der Status quo.

Die Ergebnisse stammen laut Abstract aus Simulationen. Ob das Paper ein Peer-Review durchlaufen hat, ist unklar.

Vier Komponenten vom Laser-Pool bis zum Mikroring

Halley besteht aus vier Komponenten. Laut den Autoren trägt jede davon eine formale Garantie. LightReserve dimensioniert den Laser-Pool so, dass eine Abdeckungsgrenze (coverage bound) eingehalten wird. FoldFit plant den Switch innerhalb von 11/9 des Optimums. ThermaLead regelt einen Mikroring mit One-Step-Ahead-Control und schaut also auf den jeweils nächsten Zustand. TriageGuard schützt zuerst die Module mit dem höchsten Risiko.

Ausgangspunkt ist ein Argument der Autoren: Laser, die sich Gehäuse, Kühlung und Stromversorgung teilen, können gemeinsam ausfallen. Bei einem festen Verhältnis von Ersatzmodulen (Spares) begrenzen solche korrelierten Ausfälle die Verfügbarkeit eines Pools nach ihrer Aussage beweisbar, unabhängig von seiner Größe. Halley setzt deshalb auf Vorhersage statt auf mehr Reserve.

Das ist die Darstellung der Autoren. Theoreme, Annahmen und Beweise lagen dem ausgewerteten Material nicht bei. Geprüft werden kann die Aussage deshalb hier nicht.

Goodput steigt in der Simulation von 65,2 auf 76,5 Prozent

Als Maß dient den Autoren der effektive Goodput, also der Anteil des idealen Durchsatzes, der erhalten bleibt. In der Simulation steigt er von 65,2 auf 76,5 Prozent, wenn ein Zeitfenster, in dem die Spares erschöpft sind, als verloren zählt. Geht nur die Bandbreite der Dark Channels verloren, liegt er bei 67,4 Prozent.

Pro Megawatt ergibt sich nach Angaben der Autoren das 1,03- bis 1,17-Fache an Training. Für dasselbe Training sei bis zu 3,3 bis 14,7 Prozent weniger Rechenzentrumskapazität nötig.

Es handelt sich um Simulationsergebnisse. Aufbau der Simulation und Vergleichsbasis (Baselines) fehlen im Material. Offen bleibt daher, wogegen genau gemessen wurde. Ein Einsatz bei einem realen Betreiber ist nicht belegt.

Für OCS gibt es schon Arbeiten, ein direkter Vergleich fehlt

Optical Circuit Switching (OCS) wird für KI-Cluster bereits verfolgt. Das Open Compute Project betreibt ein eigenes OCS-Subprojekt, das offene Standards und einen offenen Technologie-Stack für die Technik entwickeln will. Eine Optica-Arbeit aus dem Jahr 2024 untersucht OCS für Ausfallresilienz in AI- und HPC-Clustern, mit Ergebnissen aus einem DGX-Testbed, sowie für rekonfigurierbare Topologien beim Deep Learning.

Einen direkten Vergleich dieser Arbeiten mit Halley enthält das Material nicht. Wie neu der Ansatz gegenüber früherer Forschung ist, lässt sich deshalb nur eingeschränkt beurteilen.

Aus den genannten Zahlen ließe sich ableiten, dass Betreiber großer Trainingscluster und Hyperscaler profitieren könnten. Zunächst aber richtet sich die Veröffentlichung an die Forschungsgemeinschaft, die Garantien und Simulationen prüfen muss.