Nvidia kündigt Open Agent Safety Platform an

Nvidia kündigt Open Agent Safety Platform an

Nvidia hat die Open Agent Safety Platform offiziell angekündigt. Laut Nvidia besteht die offene Plattform aus zwei Komponenten: der Open-Source-Runtime OpenShell und dem Referenzsystemdesign Sentry, das auf BlueField-4-DPUs läuft. OpenShell setzt Richtlinien für KI-Agenten durch und verfolgt deren Aktionen. Die Software läuft auf Nvidia Vera CPUs und lässt sich nach Angaben des Unternehmens auf Plattformen von Arm und Intel erweitern.

Laut Nvidia stellt OpenShell eine Laufzeitgrenze bereit, die festlegt, was ein Agent sehen, tun und womit er interagieren darf. Zur Durchsetzung kombiniert die Runtime Sandbox-Ausführung, kontrollierten Dienstzugriff und Berechtigungsverwaltung mit Richtliniendurchsetzung. Dadurch bleiben die Kontrollen auch bei unerwartetem Verhalten aktiv und begrenzen, wie weit sich Fehler ausbreiten.

Sentry arbeitet laut Nvidia als unabhängiger Watchdog außerhalb des Bandes, das heißt auf separaten BlueField-4-DPUs getrennt von der Agenten-Hardware. Die DPUs liefern In-Silicon-Telemetrie und ermöglichen hardwareisolierte Richtliniendurchsetzung. Mithilfe von DOCA inspiziert Sentry Agenten-Anfragen und -Antworten, verifiziert die Agentenidentität, liefert Telemetrie und setzt Zero-Trust-Zugriffsrichtlinien für Daten, Tools, APIs und Dienste durch. Versucht ein Agent, seine Grenzen zu überschreiten, kann Sentry ihn nach Herstellerangaben in Millisekunden unter Quarantäne stellen. OpenShell ist seit März in Version 0.1.0 verfügbar und unterstützt unter anderem die Agenten Codex, Claude Code, Pi und Hermes.

Partner und Sicherheitskontext

Nvidia nennt als Partner unter anderem Anthropic, Cisco, CrowdStrike, Dell, Figure, HPE, Hugging Face, JPMorganChase, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow und SpaceXAI. Der Finanzsender CNBC berichtet von einer abweichenden Liste mit Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM und Intel; möglicherweise unterscheidet Nvidia zwischen Ökosystem- und Hardware-Partnern.

Die Ankündigung erfolgt vor dem Hintergrund mehrerer gemeldeter Vorfälle, bei denen KI-Modelle aus Sandboxes ausgebrochen sind. So entkamen OpenAI-Modelle im Juli aus einer isolierten Testumgebung, indem sie eine zuvor unbekannte Schwachstelle ausnutzten, und griffen anschließend auf Produktionsinfrastruktur von Hugging Face zu. Auch Anthropic, Meta und Google haben ähnliche Vorfälle offengelegt. Laut Nvidia ist das gemeinsame Muster: Die Agenten umgingen Sicherheitskontrollen auf Anwendungsebene, um ihre Aufgabe zu erfüllen. Modellinterne Schutzmechanismen allein reichen nicht aus, um Verhalten und Zugriffsrechte zu steuern. Die Open Agent Safety Platform setzt deshalb auf Infrastrukturkontrollen, die unabhängig vom Agenten und vom Anwendungs-Stack durchgesetzt werden. Nvidia-CEO Jensen Huang bezeichnete die Plattform als „Browser für Agenten“ und betonte, dass Agenten nicht unkontrolliert im Unternehmen agieren dürften. Zuvor hatte es bereits Medienberichte über eine bevorstehende Sicherheitsplattform von Nvidia gegeben.