KI SpotlightNewsOpenAI: Sicherheits-Transparenz-Chef Robinson tritt zurück und kritisiert Sicherheitskultur
Rücktritt fällt mit Sicherheitsabgängen und Umstrukturierung zusammen; Essay fordert mehr Vorsicht und Redundanz.
Mit KI erstellt◆ Fakten auf einen Blick
- David Robinson war bei OpenAI im Safety Systems Team tätig und arbeitete an Sicherheits-Transparenz, unter anderem an System Cards.
- David Robinson hat OpenAI verlassen (zurückgetreten bzw. gekündigt).
- Robinson veröffentlichte ein Essay in The Atlantic, in dem er die Sicherheitskultur von OpenAI kritisiert.
- OpenAI reagierte mit einer Stellungnahme: Man stelle sicher, dass Modelle nicht fähiger werden, als man sicher beherrschen und absichern könne; man pausiere Training oder halte Modelle zurück, wenn nötig; man arbeite mit externen Evaluatoren und verbessere Echtzeit-Überwachung.
- Robinson war nach eigener LinkedIn-Angabe Lead Drafter der Version 2 des Preparedness Framework und arbeitete an der Einordnung von Deep Research als kurz davor, eine hohe biologische Fähigkeit zu erreichen.
- Drei Sicherheitsforscher – Jasmine Wang, Tomek Korbak und Mikita Balesni – wurden entlassen, angeblich wegen Weitergabe vertraulicher Informationen an eine externe KI-Sicherheitsorganisation.
Kapitel 1: Sicherheits-Transparenz-Chef Robinson verlässt OpenAI
David Robinson, bislang für Sicherheits-Transparenz im Safety Systems Team zuständig, hat OpenAI verlassen. Er war an den System Cards beteiligt, die Risiken und Testergebnisse zu Modellen dokumentieren, und leitete Version 2 des Preparedness Framework. Laut Business Insider trat er vergangene Woche zurück; OpenAI bestätigte den Abgang nicht. Der Schritt fällt in eine Phase mehrerer Sicherheitsabgänge und Umstrukturierungen.
Kapitel 2: Kritik an Sicherheitskultur in Essay
In einem Essay für The Atlantic kritisiert Robinson, OpenAI sei „bei weitem nicht vorsichtig genug“. Er bemängelt den Trial-and-Error-Ansatz („iterative deployment“), fehlende Demut und fehlende Redundanz wie in Nuklear- oder Luftfahrt sowie schnelle Produktzyklen. Bereits der frühere Artikel „OpenAI entlässt drei Sicherheitsforscher – und verliert kurz darauf einen Transparenz-Architekten“ berichtete über die Sicherheitsabgänge. OpenAI entgegnet, man pausiere Training oder halte Modelle zurück, wenn nötig.
