KI SpotlightNewsAmodei legt Plan zur KI-Drosselung vor
Unabhängige Evaluatoren und Laborkoordination sollen das Tempo der Frontier-Entwicklung bremsen – private Arbeitsgruppen laufen seit Juli 2026
Mit KI erstellt◆ Fakten auf einen Blick
- Dario Amodei hat einen Plan zur Verlangsamung der KI-Entwicklung vorgeschlagen, der unabhängige Sicherheits-Evaluatoren und Koordination zwischen Labs vorsieht.
- Seit Juli 2026 gab es private Arbeitsgruppen zwischen Anthropic, OpenAI und Google DeepMind über ein Sicherheitsstandards-Gremium.
- Der Plan beinhaltet, dass Frontier-Labs unabhängigen Evaluatoren 'ongoing, employee-like access' gewähren, inklusive Büros, Zugangsbadges und Firmen-Laptops.
- Microsoft hat Unterstützung für Ideen wie eingebettete Evaluatoren signalisiert, sofern diese wirklich drittparteiisch sind.
- Nvidia CEO Jensen Huang hat den Plan öffentlich kritisiert und argumentiert, dass vorzeitige Einschränkungen Innovationen ersticken und Technologieführerschaft an Wettbewerber außerhalb demokratischer Allianzen abgeben könnten.
- OpenAI arbeitet mit Anthropic und Google DeepMind an Sicherheitsfragen zusammen; laut OpenAI wird kein Antitrust-Waiver benötigt.
Dario Amodei, CEO von Anthropic, hat einen konkreten Plan zur Verlangsamung der KI-Entwicklung vorgelegt. Kernstück sind unabhängige Sicherheits-Evaluatoren, die bei den Frontier-Labs mitarbeiterähnlichen Zugang erhalten: Büros, Zugangsbadges und Firmen-Laptops. So können sie Sicherheitspraktiken fortlaufend überwachen und nicht nur punktuelle Tests durchführen. Die Evaluatoren wenden Prüfverfahren an, die vor der Veröffentlichung eines Modells greifen – etwa 30 Tage vor dem geplanten Release, wie es ein von Google-DeepMind-Chef Demis Hassabis skizziertes FINRA-Modell vorsieht. Ihre Ergebnisse fließen in die Freigabeentscheidung ein; Modelle, die bei Tests durchfallen, könnten blockiert werden.
Seit Juli 2026 existieren private Arbeitsgruppen zwischen Anthropic, OpenAI und Google DeepMind. Sie loten eine gemeinsame Selbstregulierungsbehörde aus, die von den Laboren finanziert und unabhängig besetzt wäre. Konkret diskutieren sie drittparteiliche Vorabtests, formale Sicherheitschecks und einheitliche Risikoprotokolle. Diese Protokolle decken Cyberangriffe, Biowaffen-Risiken und täuschendes Verhalten ab; Amodeis eigener Vorschlag für eine FAA-ähnliche Behörde nennt zusätzlich Durchgehen-Risiko und automatisierte Forschung. Die Einhaltung wird durch die eingebetteten Evaluatoren sowie durch die verpflichtenden Pre-Release-Audits geprüft.
Der Zusammenhang zur Verlangsamung: Indem jedes Frontier-Modell vor der Freigabe unabhängig geprüft und bei Sicherheitsmängeln gestoppt werden kann, wird der Wettlauf um immer schnellere Releases gebremst. OpenAI bestätigte die Gespräche und sieht keine Kartellfreistellung als nötig an. Nvidia-Chef Jensen Huang warnte dagegen, vorzeitige Einschränkungen könnten Innovationen ersticken und die Führung an Wettbewerber außerhalb demokratischer Allianzen abgeben.
