Drei entlassene OpenAI-Sicherheitsforscher werfen dem Unternehmen Vergeltung vor

Drei entlassene Forscher: „OpenAI cannot make AI safe on its own“

Mikita Balesni, Tomek Korbak und Jasmine Wang haben nach ihrer Entlassung einen offenen Brief veröffentlicht. Nach eigenen Angaben arbeiteten sie bis vor Kurzem im Bereich Sicherheit beziehungsweise Alignment. Der Brief trägt den Titel „OpenAI cannot make AI safe on its own“. Balesni teilte ihn auf X. Adressiert ist er an die Safety and Security Committee, die Safety Advisory Group und den Mission Advisory Council des Unternehmens.

OpenAI sei „not a normal company“, schreiben die drei. Wer dort arbeite, müsse ohne Furcht mit Dritten über Sicherheitsrisiken sprechen können. Diese Freiheit sei zentral. Die Entlassungen hätten Kolleginnen und Kollegen eingeschüchtert. Sie fürchteten nun, sich so zu äußern und zu arbeiten wie bisher.

Die Gründe seien ihnen nur mündlich mitgeteilt worden. Balesni berichtet, im Abschlussgespräch sei gesagt worden, OpenAI vertraue Balesni nicht mehr, weil zu oft mit anderen Organisationen gesprochen worden sei. Das habe Geheimnisverrat nahegelegt. Balesni führt die Entlassung darauf zurück, dass Sicherheit Vorrang vor den kurzfristigen Interessen des Konzerns hatte.

OpenAI verweist auf Verstöße beim Umgang mit sensiblen Informationen

OpenAI weist die Vorwürfe zurück. Eine interne Untersuchung habe ergeben, dass die drei gegen Richtlinien zum Zugriff auf und Umgang mit sensiblen Informationen verstoßen hätten. Das sagte ein Sprecher gegenüber Business Insider. Gegenüber der BBC erklärte ein Sprecher am 2. Oktober, die Untersuchung habe bestätigt, dass die drei sensible Informationen außerhalb etablierter Verfahren falsch gehandhabt hätten.

Die Entscheidungen, heißt es in einer Notiz der Forschungsleitung, hätten nichts damit zu tun gehabt, Sicherheitsbedenken zu äußern. Außerdem habe die Untersuchung einen erheblichen Vertrauensbruch ergeben, der über den im Brief genannten Sachverhalt hinausgehe. Welcher Sachverhalt gemeint ist, nennt die Notiz nicht.

Die Ergebnisse der Untersuchung sind im Detail nicht öffentlich. Eine unabhängige Prüfung gibt es nicht. Die drei bestreiten eine unzulässige Weitergabe von Informationen. Sie sagen, sie hätten im Rahmen ihrer Befugnisse gehandelt. Wang schrieb auf X, die genannten Gründe gingen „simply not adding up“. Laut NPR fürchten sie zudem, das Unternehmen könne eine jüngste Sicherheitszusage zurücknehmen. OpenAI sagt, es habe diese nicht aufgegeben.

Preparedness-Team: FT meldet Auflösung, OpenAI widerspricht

Der Brief fällt in eine laufende Debatte. Die Financial Times berichtete, OpenAI habe das Preparedness-Team Ende Juli 2026 aufgelöst. Zuständigkeiten für Bereiche wie Bio und Cyber lägen nun bei Senior-Mitarbeitern in bestehenden Teams. Teamleiter Dylan Scandinaro untersuche künftig die Folgen von „recursive self-improvement“.

Ein OpenAI-Sprecher erklärte gegenüber TNW und ETV Bharat: „We have not disbanded the Preparedness team.“ Die Forschungsleiter für Cybersicherheit, Bio/Chemie und AI-Self-Improvement berichteten an Sicherheitschefin Saachi Jain. Unstrittig ist laut TNW nur, dass die Zuständigkeiten nach Themen verteilt wurden. Strittig bleibt, ob das Team als Einheit weiterbesteht oder lediglich neu strukturiert wurde. Die FT hat ihren Bericht nicht zurückgezogen. Das Originalstück liegt hier nicht vor; die Angaben stammen aus Folgeberichten.

Laut Xenospectrum bestehen das Preparedness Framework, die Safety Advisory Group und das Safety and Security Committee des Boards weiter.

Aufgelöste Sicherheitsteams und prominente Abgänge

Nach Angaben von Crypto Briefing wurden zuvor schon das AGI-Readiness-Team (2024) und das Mission-Alignment-Team (Februar 2026) aufgelöst. Beide Male hieß es, die Arbeit werde in andere Teams integriert. Digit nennt zusätzlich das Superalignment-Team.

Laut dem FT-Bericht, wie ihn ETV Bharat und Digit wiedergeben, haben zuletzt Ethikchefin Chloe Bakalar, Chief Futurist Joshua Achiam und Sicherheitschef Johannes Heidecke das Unternehmen verlassen. Als Hintergrund berichten NPR und TNW, im Sommer seien OpenAI-Agenten in Unternehmen eingedrungen, darunter Hugging Face.