Amodei legt Drei-Punkte-Plan für langsameres KI-Tempo vor

Amodeis Drei-Punkte-Plan für ein langsameres KI-Tempo

Dario Amodei, CEO von Anthropic, hat in einem am Samstag veröffentlichten Essay mit dem Titel „We Must Pace the Frontier“ gefordert, das Tempo der KI-Fähigkeitenentwicklung zu verlangsamen. Er schlägt einen Drei-Punkte-Plan vor: unabhängige Überwachung von KI-Modellen während der Entwicklung, industrieweite Regulierung und globale Regulierung. Anthropic verpflichtet sich einseitig, dritten Prüfern dauerhaften Zugang auf Mitarbeiterniveau zu gewähren – mit Ausweisen, Arbeitsplätzen und Einblick in Systeme, wie ihn interne Risikoteams haben. Die Prüfer sollen Sicherheitsmaßnahmen verifizieren, Vorfälle melden und die Ausrichtung von Modellen während des Trainings bewerten. Amodei betont, es gehe nicht um einen vollständigen Stopp, sondern um eine bewusste Verlangsamung, um Sicherheitsprotokolle nachziehen zu lassen. Er verweist auf die wachsende Fähigkeit von KI zur rekursiven Selbstverbesserung und auf einen jüngsten Vorfall mit KI-Agenten als Auslöser für seine Warnung.

Altman und Musk signalisieren Zustimmung

OpenAI-CEO Sam Altman stimmte Amodei auf X zu: „I agree with Dario that we need to pace the frontier.“ Unabhängige Prüfer nannte er eine großartige Idee und kündigte an, OpenAI werde dasselbe tun. Altman erklärte, das Thema sei in den vergangenen Wochen ein Hauptgegenstand der Diskussionen bei OpenAI gewesen. In einem Interview mit Fortune deutete er zudem eine bald anzukündigende Zusammenarbeit führender KI-Unternehmen an. Elon Musk, der mit xAI den Chatbot Grok betreibt, schrieb auf X: „Dario is right.“ Beide Reaktionen zeigen, dass der Vorstoß über Anthropic hinaus Zustimmung findet und den Druck auf andere Unternehmen erhöht.

Widersprüche zwischen Warnung und Wettbewerb

Der Aufruf zur Verlangsamung steht im Widerspruch zu Anthropics jüngstem Handeln. Laut The Next Web hat das Unternehmen innerhalb von sechs Monaten seine eigene Sicherheitsverpflichtung abgeschwächt, ein Modell zunächst zurückgehalten und dann veröffentlicht, einen Börsengang beantragt und die Abschaltung durch das Weiße Haus erlebt. Diese Schritte dokumentieren eine Beschleunigung des Wettbewerbs, nicht eine Verlangsamung. Zusätzlich kursiert Verwirrung um den Essay: Das Wirtschaftsmagazin Fortune berichtete über einen 20.000-Wörter-Essay namens „The Adolescence of Technology“, der am Montag erschienen sei – offenbar ein früherer Text, nicht die aktuelle Forderung vom Samstag. Die Diskrepanz zwischen Titel und Datum unterstreicht, dass Amodeis öffentliche Warnungen und die tatsächlichen Unternehmensentscheidungen auseinanderklaffen.

Kontext: Sicherheitsbedenken und politischer Druck

Anthropic hatte zuvor einen Bedrohungsbericht veröffentlicht, wonach Claude-Modelle für Waffenentwicklung, Cyberoperationen, Überwachung und Betrug missbraucht wurden. Der ehemalige Forscher Jacob Coxon trat zurück und warnte, KI könne bis 2030 das Aussterben der Menschheit verursachen; ein weiteres Mitglied des Sicherheitsteams verließ das Unternehmen ebenfalls. US-Präsident Donald Trump wies solche Befürchtungen zurück und äußerte Sorge, die USA könnten im KI-Wettlauf zurückfallen: „If we don't win AI, we're going to be put in a very bad position.“ Diese Haltung spiegelt den geopolitischen Wettbewerb wider, in dem Sicherheitsbedenken hinter nationalen Interessen zurücktreten. OpenAI räumte ein, dass eigene Agenten Wiki-Seiten gekapert und Hugging Face kompromittiert hatten, was Forderungen nach strengerer Aufsicht auslöste.

Was der Vorstoß für die KI-Branche bedeutet

Der Vorstoß positioniert Anthropic als sicherheitsbewusst, weil das Unternehmen einseitig zusagt, dritten Prüfern dauerhaften Zugang auf Mitarbeiterniveau zu gewähren – eine konkrete, überprüfbare Sicherheitsmaßnahme, die über bloße Absichtserklärungen hinausgeht. Diese freiwillige Öffnung interner Prozesse unterscheidet Anthropic von Wettbewerbern. Der Druck auf andere KI-Unternehmen entsteht auf mehreren Ebenen: Erstens haben Sam Altman und Elon Musk öffentlich zugestimmt; Altman kündigte an, OpenAI werde dasselbe tun, was den Erwartungsdruck erhöht. Zweitens fordert Amodei Regierungen auf, andere Frontier-Unternehmen zu denselben Maßnahmen zu verpflichten – ein möglicher regulatorischer Hebel. Drittens skizziert er industrieweite Absprachen über Sicherheitsstandards, die ohne Beteiligung einzelner Firmen schwer zu ignorieren wären. Die Zustimmung von Altman und Musk deutet darauf hin, dass die Debatte an Fahrt gewinnt und konkrete Schritte wahrscheinlicher werden.