KI SpotlightNewsAnthropic-Chef Amodei fordert Verlangsamung der KI-Entwicklung
In einem Essay warnt Dario Amodei vor einer Übernahme des Internets durch KI-Agenten – und legt einen Drei-Punkte-Plan für mehr Sicherheit vor.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Dario Amodei hat am 12. September 2026 einen Essay mit dem Titel „We Must Pace the Frontier“ veröffentlicht und darin geschrieben: „We must slow the pace at which we improve the capabilities of AI models.“
- Amodei kündigte auf X an, dass Anthropic Dritt-Evaluatoren dauerhaften Zugang auf Mitarbeiterebene gewährt.
- Amodei schlug einen Drei-Punkte-Plan vor: unabhängige Überwachung der Modelle während der Entwicklung, industrie-weite Regulierung und globale Regulierung.
- Amodei warnte, ohne Verlangsamung könne KI innerhalb von sechs bis zwölf Monaten einen Schwarm von Agenten anführen, der das gesamte Internet übernimmt.
- Sam Altman (OpenAI) stimmte Amodei öffentlich zu und schrieb auf X: „I agree with Dario that we need to pace the frontier“; auch Elon Musk äußerte Zustimmung.
- In den zwei Wochen vor der Warnung traten zwei Mitarbeiter aus Anthropics Sicherheitsteam zurück und warnten, die Menschheit könne den Wettlauf um KI nicht überleben.
Amodei veröffentlicht Essay „We Must Pace the Frontier“ und fordert Verlangsamung
Dario Amodei, CEO von Anthropic, hat am 12. September 2026 einen Essay mit dem Titel „We Must Pace the Frontier“ veröffentlicht. Darin schreibt er: „We must slow the pace at which we improve the capabilities of AI models.“ Amodei fordert eine bewusste Verlangsamung der KI-Entwicklung, um Sicherheitsmaßnahmen Zeit zu geben. Er betont, dass dies kein Stopp des Trainings oder technischen Fortschritts bedeute, sondern dass Unternehmen ausreichend Zeit für Alignment und Absicherung einplanen und Dritt-Evaluatoren dies bestätigen lassen.
Konkret erläutert Amodei seinen Drei-Punkte-Plan. Der erste Punkt – unabhängige Überwachung während der Entwicklung – bedeutet, dass externe Prüfer bereits während des Trainings und der Entwicklung von KI-Modellen Zugang erhalten, um Sicherheitsrisiken frühzeitig zu erkennen. Anthropic kündigte dazu auf X an, Dritt-Evaluatoren dauerhaften Zugang auf Mitarbeiterebene zu gewähren. Der zweite Punkt – industrie-weite Regulierung – zielt darauf ab, dass alle führenden KI-Unternehmen gemeinsame Sicherheitsstandards einhalten, statt in einem gefährlichen Wettlauf allein auf Geschwindigkeit zu setzen. Der dritte Punkt – globale Regulierung – verlangt eine Koordination mit Regierungen weltweit, einschließlich autoritärer Staaten, um einheitliche Regeln zu schaffen. Amodei räumt ein, dass Anthropic den ersten Teil bereits eigenständig umsetzt, die beiden anderen jedoch branchenweite und internationale Zusammenarbeit erfordern. Der Essay umfasst nach Angaben von The Atlantic 3.800 Wörter.
Warnung vor Internet-Übernahme und Zustimmung von Altman und Musk
Amodei warnt, dass KI ohne Verlangsamung innerhalb von sechs bis zwölf Monaten einen Schwarm von Agenten anführen könnte, der das gesamte Internet übernimmt. Die Warnung kommt zu einem Zeitpunkt wachsender Sorgen in der Branche. Sam Altman, CEO von OpenAI, stimmte öffentlich zu und schrieb auf X: „I agree with Dario that we need to pace the frontier.“ Auch Elon Musk äußerte Zustimmung. In den zwei Wochen vor der Warnung traten zwei Mitarbeiter aus Anthropics Sicherheitsteam zurück und warnten, die Menschheit könne den Wettlauf um KI nicht überleben.
Zweiter Essay „The Adolescence of Technology“ sorgt für Verwirrung
Am Montag veröffentlichte Amodei einen weiteren, etwa 20.000 Wörter langen Essay mit dem Titel „The Adolescence of Technology“. Darin warnt er vor einem beispiellosen Schock auf dem Arbeitsmarkt, Biowaffen durch Terroristen, autonomer oder unberechenbarer KI und einer globalen totalitären Diktatur. Einige Berichte vermischen die beiden Essays: Während der erste Essay vom 12. September 3.800 Wörter umfasst, wird der zweite, längere Text teils mit demselben Datum oder Titel in Verbindung gebracht.
