Über 1.000 KI-Forscher fordern koordinierte Verlangsamung

Über 1.000 KI-Forscher fordern koordinierte Verlangsamung

Mehr als 1.000 Beschäftigte der führenden US-KI-Unternehmen OpenAI, Anthropic, Google DeepMind und Meta haben einen offenen Brief mit dem Titel „Pacing the Frontier“ unterzeichnet. Darin fordern sie die US-Regierung auf, einen internationalen Mechanismus zu schaffen, der eine koordinierte Verlangsamung der KI-Entwicklung ermöglicht, um Risiken zu begrenzen. Der Aufruf zielt nicht auf einen vollständigen Stopp, sondern auf ein bewusstes, abgestimmtes Tempo an der Frontier automatisierter KI-Entwicklung. Zu den Unterzeichnern gehören nach Angaben der Initiatoren leitende Wissenschaftler und Sicherheitsverantwortliche der beteiligten Labore. Die Zahlen variieren je nach Quelle zwischen mehr als 1.000 und mehr als 1.200 Unterzeichnern.

Die Unterzeichner argumentieren, dass die Labore kurz davor stünden, KI-Forschung selbst zu automatisieren, und dass die Fähigkeiten schneller wachsen könnten als die Möglichkeiten, sie zu verstehen oder zu kontrollieren. So schreibt etwa OpenAI-Forscher Leo Gao in einem persönlichen Kommentar zur Unterschrift von einem „tödlichen Wettlauf hin zu einer Intelligenzexplosion … wie bei einer unkontrollierten nuklearen Kettenreaktion“. Meta AIs Chefwissenschaftler Shengjia Zhao ergänzt, die Labore seien „sehr nahe an KI, die selbst die besten Menschen übertrifft“. Sie betonen, es gehe nicht um einzelne rücksichtslose Unternehmen, sondern um strukturellen Wettbewerbsdruck: Jedes Unternehmen und jedes Land stehe unter intensivem Druck, nicht einseitig zu bremsen, weil es sonst von Konkurrenten überholt würde. OpenAI-Forscher Leo Gao bringt es auf den Punkt: „Kein einzelner Akteur kann einseitig stoppen, daher ist Koordination der einzige Weg.“ Da es bislang keine Instrumente zur Koordination einer Verlangsamung gebe, könne selbst dann niemand allein bremsen, wenn alle es für sinnvoll hielten. Konkret fehlen technische und Governance-Werkzeuge für ein internationales „Pacing“ – etwa Infrastruktur für eine koordinierte, überprüfbare Verlangsamung, falls die Entwicklung die sichere Kontrolle überholt. Der Brief fordert deshalb den Aufbau solcher Instrumente. Der Brief ist bemerkenswert, weil er von Mitarbeitenden verschiedener Unternehmen unterzeichnet wurde. Normalerweise konkurrieren diese Personen um Talente, untergraben gegenseitig das Geschäft und streiten um Kunden – nun stehen ihre Unterschriften auf demselben Dokument. Ein solches öffentliches Unterstützen durch einen CEO ist bislang selten.

OpenAI und prominente Forscher unterstützen den Aufruf

Dario Amodei, CEO von Anthropic, ist erster Unterzeichner des Briefes. Auch die Anthropic-Mitgründer Jack Clark und Chris Olah haben unterschrieben. Der offizielle Account von OpenAI veröffentlichte eine unterstützende Stellungnahme zu dem Aufruf. Damit erhält die Forderung Rückendeckung aus den Führungsetagen, obwohl der Brief von Mitarbeitern initiiert wurde.

Bereits zuvor hatten sich Dario Amodei, Sam Altman und Elon Musk öffentlich für ein Bremsen bei Frontier-Modellen ausgesprochen – aus Sicherheitsgründen, wie sie bekräftigten. Anthropic forderte im Oktober 2024 „gezielte Regulierung“ mit der Einleitung „Regierungen sollten dringend …“. Doch diese Appelle blieben einzelne CEO-Statements oder freiwillige Selbstverpflichtungen, ohne dass daraus ein kollektiver, branchenweiter Mechanismus entstand. Der neue Brief bündelt nun die Position von mehr als 1.000 Beschäftigten und verleiht dem Sicherheitsdiskurs eine kollektive Dimension: Indem so viele Mitarbeiter aus konkurrierenden Unternehmen gemeinsam unterschreiben, wird aus vielen Einzelstimmen eine gebündelte Forderung, die nicht mehr als Meinung einzelner CEOs abgetan werden kann.