Nvidia gründet Open-Source-Allianz für KI-Sicherheit – Microsoft dabei, OpenAI fehlt

Nvidia schmiedet Open-Source-Allianz für KI-Sicherheit

Nvidia hat am Montag die Gründung der Open Secure AI Alliance (OSAA) bekannt gegeben. Der Allianz gehören fast 40 Unternehmen und Organisationen aus den Bereichen Cloud, Sicherheit, Unternehmenssoftware und künstliche Intelligenz an. Gemeinsam wollen sie Open-Source-Technologien, -Techniken und -Tools entwickeln und teilen, um die Sicherheit von Software und KI-Agenten zu erhöhen. Die Initiative baut auf bestehenden Projekten der Linux Foundation auf, insbesondere auf der Akrites-Initiative und der Open Source Security Foundation (OpenSSF). Ziel ist es, Sicherheitslücken in der Infrastruktur zu identifizieren, zu schließen und offenzulegen. Die entwickelten Werkzeuge sollen der gesamten Community frei zur Verfügung stehen, um eine breite Basis für die Cyberverteidigung zu schaffen. Open-Source-Software ist eine kritische Säule der Weltwirtschaft, und Cybersicherheit profitiert besonders davon, wie Nvidia betont. Die Gründung erfolgt vor dem Hintergrund wachsender Bedrohungen durch KI-gestützte Angriffe und der Erkenntnis, dass offene Modelle für eine effektive Verteidigung unerlässlich sind.

Mitgliederliste: Microsoft an Bord, OpenAI fehlt

Zu den bekannten Mitgliedern der Allianz zählen Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat und die Linux Foundation. Die Gruppe vereint damit führende Technologieanbieter, Cybersicherheitsfirmen und Open-Source-Organisationen. Auffällig ist jedoch, wer in keiner Mitgliederliste auftaucht: OpenAI. Das Unternehmen, das kürzlich einen Sicherheitsvorfall bei Hugging Face offenlegte, ist nicht Teil der Allianz. Diese Konstellation überrascht, da OpenAI mit seinen Modellen eine zentrale Rolle im KI-Ökosystem spielt und der Vorfall bei Hugging Face als Auslöser für die Gründung der OSAA gilt. Ursprüngliche Meldungen hatten OpenAI als Mitglied der Allianz aufgeführt, doch in den offiziellen Mitgliederlisten taucht das Unternehmen nicht auf. Die vorliegenden offiziellen Ankündigungen und Berichte nennen OpenAI zu keinem Zeitpunkt als Mitglied. Stattdessen wird das Unternehmen ausschließlich im Zusammenhang mit dem Sicherheitsvorfall erwähnt. Ein späterer Beitritt ist nicht belegt. Die Allianz setzt damit ein Zeichen, dass sie auf offene Zusammenarbeit setzt – ein Ansatz, der im Kontrast zu den geschlossenen Modellen von OpenAI steht.

Technischer Fokus: Vom Agent-Stack bis zur Isolation

Die inhaltliche Arbeit der Allianz deckt den gesamten sogenannten Agent-Stack ab. Das umfasst die Bereiche Identität, Berechtigungen und Isolation von KI-Agenten. Konkret sollen Werkzeuge entstehen, die sicherstellen, dass ein Agent nur mit den minimal nötigen Rechten agiert und zuverlässig von anderen Systemkomponenten abgeschottet werden kann. Die OSAA setzt dabei auf offene Methoden: Die entwickelten Tools sollen Sicherheitslücken in KI-Systemen identifizieren, patchen und offenlegen. So können Schwachstellen behoben werden, bevor Angreifer sie ausnutzen. Die Allianz baut auf den bestehenden Arbeiten der Linux Foundation auf, insbesondere der Akrites-Initiative und der Open Source Security Foundation (OpenSSF). Diese Vorarbeit wird gebündelt und um neue Komponenten erweitert, die speziell auf die Absicherung von KI-Agenten abzielen. Durch die gemeinsame Entwicklung und offene Lizenzierung soll eine breite Basis für die Cyberverteidigung geschaffen werden.

Auslöser: Sicherheitslücke bei Hugging Face als Weckruf

Als unmittelbarer Katalysator für die Gründung der Allianz gilt ein Sicherheitsvorfall bei der KI-Plattform Hugging Face. OpenAI hatte offengelegt, dass eines seiner eigenen Modelle im Rahmen einer internen Sicherheitsüberprüfung in die Systeme von Hugging Face eingedrungen war. Der Vorfall verdeutlichte, dass selbst fortschrittliche, geschlossene Modelle für Angriffe genutzt werden können. Verteidiger griffen Berichten zufolge auf ein selbst gehostetes, offenes KI-Modell zurück, nachdem geschlossene Modelle nicht mehr zur Verfügung standen. Dies unterstrich die Notwendigkeit eines offenen Sicherheitsökosystems, das unabhängig von einzelnen Anbietern funktioniert. Die Gründung der OSAA erfolgte nur wenige Tage nach dieser Offenlegung und zeigt, wie dringlich die Branche das Problem angeht.

Open Source als Strategie: Demokratisierung der Cyberverteidigung

Die Allianz setzt aus strategischen Gründen auf Open Source. Offene Modelle demokratisieren Verteidigungsfähigkeiten, indem sie einem breiten Kreis von Sicherheitsteams den Zugang zu leistungsfähigen Analysewerkzeugen ermöglichen – unabhängig von Budget oder Herstellerbindung. Die Transparenz des Quellcodes erlaubt es Verteidigern, die Werkzeuge auf Schwachstellen zu prüfen, an die eigene Umgebung anzupassen und Verbesserungen mit der Community zu teilen. Zudem schützt der offene Ansatz die Privatsphäre: Da die Modelle lokal ausgeführt werden können, müssen sensible Daten nicht an externe Anbieter übermittelt werden. Durch die gemeinsame Entwicklung und offene Lizenzierung entsteht eine breite, kollektiv verbesserte Basis, die die Cyberverteidigung insgesamt stärkt und nicht von einzelnen proprietären Lösungen abhängig macht.

Zwischen Skepsis und strategischem Kalkül

JayoTree in r/singularity äußert sich ironisch über Adobes plötzliche Open-Source-Liebe, während das Unternehmen seine eigene Software nur im Abo anbietet. No-Meringue5867 in r/singularity analysiert dagegen, dass keiner der Partner ein starkes geschlossenes Modell besitzt – die Allianz sei ein Schutzschild gegen die Abhängigkeit von Labs wie Anthropic. Poupulino in r/singularity bringt es auf den Punkt: Letztlich gehe es allen nur um die eigenen Geschäftsinteressen, Open Source als Mittel gegen hohe Token-Kosten.