NVIDIA FLARE 2.9 ergänzt Slurm-Launcher für Federated Learning

Slurm-Launcher ergänzt Docker- und Kubernetes-Orchestrierung

NVIDIA FLARE 2.9 führt einen Slurm-Job-Launcher ein. Damit können Standorte, die ihre GPU-Workloads über das HPC-Scheduling-System Slurm planen, Federated-Learning-Jobs direkt darüber ausführen. Docker- und Kubernetes-Launcher waren bereits mit FLARE 2.8 verfügbar.

Nach Angaben von NVIDIA trennt FLARE in einer zweischichtigen Architektur die persistenten Föderationsdienste von der Ausführung der einzelnen Jobs. Eine FLARE-Bereitstellung hat zwei operative Schichten: langlaufende Server- und Client-Prozesse bilden die persistente Föderation, während die Job-Ausführung davon getrennt ist. Dadurch kann jeder Standort innerhalb derselben Föderation das Backend wählen, das zu seiner Infrastruktur passt – Docker an einem Standort, Kubernetes an einem anderen, Slurm an einem dritten. Die lokale Kontrolle über Rechenressourcen, Datensätze, Images, Geheimnisse und Scheduling-Richtlinien bleibt dabei erhalten.

Hintergrund ist die wachsende operative Komplexität von Federated-Learning-Projekten. Federated-Learning-Projekte beginnen oft mit einem einfachen Setup: ein Server, wenige Clients und ein Datensatz pro Standort. Wenn diese Projekte wachsen, verschiebt sich die Herausforderung vom Ausführen eines Algorithmus hin zum Betrieb gemeinsamer Infrastruktur. GPUs müssen bei Bedarf zugewiesen werden, mehrere Forschungsstudien müssen getrennt bleiben, und jede teilnehmende Organisation muss die Kontrolle über ihre eigenen Daten, Geheimnisse und Rechenrichtlinien behalten. Erschwerend kommt hinzu, dass Standorte unterschiedliche Infrastrukturen betreiben: Einer nutzt einen Docker-Host, ein anderer einen Kubernetes-Cluster, ein dritter ein Slurm-System.

Agent Skills und Large-Model-Training im selben Release

Das Release 2.9 enthält über den Slurm-Launcher hinaus weitere Neuerungen. Dazu zählen Agent Skills für eine agentenunterstützte föderierte Entwicklung, eine Collaboration API als Python-zentrierte Schnittstelle für Forschungsworkflows sowie Large-Model-Training mit einem gehärteten Streaming-Transport für Modellübertragungen und einer bis zu 72 Milliarden Parameter validierten FedAvg-Implementierung. Hinzu kommt Security-Hardening mit authentifizierten CellNet-Nachrichten, internem mTLS als Standard und gehärteten Admin- und Job-Signing-Pfaden. Die Agent Skills umfassen dabei Conversion Skills, die aus bestehenden Projekten oder Datensätzen einen überprüfbaren föderierten Job erzeugen, sowie Auto-FL-Optimierung, eine agentengesteuerte Kampagne zur Optimierung eines bestehenden Jobs innerhalb des deklarierten Trainingsbudgets.

NVIDIA FLARE ist ein domänenunabhängiges, quelloffenes und erweiterbares SDK für Federated Learning. Domänenunabhängig bedeutet, dass es nicht auf eine bestimmte Branche oder einen bestimmten Anwendungsfall beschränkt ist, sondern Forschern und Datenwissenschaftlern erlaubt, bestehende ML- und DL-Workflows aus beliebigen Bibliotheken wie PyTorch, TensorFlow, XGBoost oder NumPy auf ein föderiertes Paradigma zu übertragen. Plattformentwickler können damit sichere, datenschutzfreundliche Angebote für verteilte Mehrparteien-Kollaborationen aufbauen, etwa unter Nutzung homomorpher Verschlüsselung oder differenzieller Privatsphäre.