KI SpotlightNewsOpenAI verteidigt Entlassung von Sicherheitsforschern und nennt weiteren Vertrauensbruch
Das Unternehmen spricht von einem „significant breach of trust“ über den offenen Brief hinaus. Die drei Betroffenen sehen ihr Sicherheitsengagement als Grund. Belege für beide Darstellungen liegen nicht öffentlich vor.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- OpenAI entließ Jasmine Wang, Tomek Korbak und Mikita Balesni, die im Bereich KI-Sicherheit bzw. Alignment arbeiteten.
- Die drei veröffentlichten einen offenen Brief, adressiert an drei OpenAI-Gremien, zugleich auf X.
- Laut ABC fordert der Brief, das Versprechen einzuhalten, externe Sicherheitsbeobachter zuzulassen.
- OpenAI erklärte auf X, die Untersuchung habe Verstöße gegen Richtlinien zum Umgang mit sensiblen Informationen ergeben.
- OpenAI betont, die Entscheidungen hätten nichts mit dem Äußern von Sicherheitsbedenken zu tun.
OpenAI verteidigt Entlassung der drei Sicherheitsforscher und nennt weiteren Vertrauensbruch
OpenAI hat die Entlassung der Sicherheitsforscher Jasmine Wang, Tomek Korbak und Mikita Balesni am Freitag öffentlich verteidigt. Die interne Untersuchung habe „a significant breach of trust beyond what's outlined in the letter they published“ ergeben, teilte die Forschungsleitung mit. Das Unternehmen stehe zu der Entscheidung. Die Entscheidungen hätten nichts damit zu tun, dass die drei Sicherheitsbedenken geäußert hätten.
Worin der zusätzliche Vertrauensbruch liegt, nennt OpenAI nicht. Ebenso offen bleibt, wie sich diese Aussage zu früheren Darstellungen verhält. Zuvor hatte das Unternehmen auf X erklärt, die drei hätten „klare Richtlinien zum Umgang mit sensiblen Informationen“ verletzt. Ein Sprecher sagte der BBC am 2. Oktober, die Untersuchung habe bestätigt, dass die Betroffenen sensible Informationen außerhalb etablierter Unternehmensverfahren falsch behandelt hätten.
Gleichzeitig betont OpenAI, es teile das Anliegen des Briefs, die Überwachbarkeit („monitorability“) von Frontier-Modellen zu erhalten, und investiere weiterhin erhebliche Ressourcen in diesen Bereich. Das sind Angaben des Unternehmens. Unabhängig überprüfen lässt sich bislang keine davon.
Die drei weisen den Vorwurf zurück und warnen vor Abschreckung
Die drei Forscher veröffentlichten ihren offenen Brief am Donnerstag und posteten ihn zugleich auf X. Er richtet sich an OpenAIs Safety and Security Committee, die Safety Advisory Group und den Mission Advisory Council. Die interne und externe Kommunikation zur Entlassung habe Kolleginnen und Kollegen verunsichert, schreiben sie. Sie seien „afraid to speak“. Laut ABC fordern die Forscher, OpenAI solle sein Versprechen einlösen, externe Sicherheitsbeobachter im Unternehmen zuzulassen, und die Überwachbarkeit fortgeschrittener Modelle erhalten.
Laut CNN wurde Korbak, OpenAIs „main technical point of contact“ für die Sicherheitsorganisation METR, ein Zusammenhang zwischen seiner Entlassung und dieser Kommunikation genannt. Balesni schreibt auf X, bei der Entlassung sei der Vorwurf gefallen, Balesni spreche „too much to third party safety organizations“. Balesni versteht das als Leak-Vorwurf und bestreitet ihn.
Alle drei hatten laut CNBC im September Sicherheitsbedenken geäußert oder dazu aufgerufen, das Tempo an der Frontier zu drosseln. Das Wall Street Journal berichtete laut ABC als Erstes über den Fall.
Untersuchungsergebnisse und verletzte Richtlinien liegen nicht öffentlich vor
Beide Seiten stützen sich bislang auf eigene Darstellungen. Weder die Untersuchungsergebnisse noch die konkret verletzten Richtlinien oder der zusätzliche Vorwurf sind öffentlich belegt. Offen ist damit, ob der Umgang mit METR regelwidrig war oder legitime Sicherheitsarbeit. Klären ließe sich das nur, wenn OpenAI Untersuchung und Richtlinien offenlegt.
