Altman und Amodei fordern vor UN-Sicherheitsrat Koordination – Trump lehnt globale KI-Governance ab

Gemeinsamer Auftritt vor dem Sicherheitsrat: Altman und Amodei fordern Koordination

Am 23. September traten Sam Altman, CEO von OpenAI, und Dario Amodei, CEO von Anthropic, gemeinsam vor dem UN-Sicherheitsrat auf. Bei dem von Frankreich während seiner Ratspräsidentschaft einberufenen High-Level-Briefing zu künstlicher Intelligenz und internationaler Sicherheit forderten beide internationale Koordination, um Risiken durch KI zu mindern. Neben Altman und Amodei waren Yoshua Bengio und Clément Delangue als Briefers geladen. Altman verwies auf historische Momente, in denen konkurrierende Länder angesichts einer mächtigen neuen Technologie zusammenarbeiteten, und sagte, dies müsse einer dieser Momente sein. Er argumentierte, dass selbst Länder, die einander nicht mögen, zum gemeinsamen Wohl und im kollektiven Interesse zusammenkommen müssten. Diese historischen Beispiele zeigten, dass Kooperation selbst zwischen Rivalen möglich sei, wenn eine Technologie das Potenzial für weitreichende Folgen habe – ein Muster, das nun auch für KI gelten müsse. Das Briefing fand während des hochrangigen Segments der 81. Generalversammlung statt.

Amodeis Essay 'We Must Pace the Frontier' und Altmans öffentliche Zustimmung

Amodei hatte zuvor den Essay „We Must Pace the Frontier“ veröffentlicht. Darin fordert er, die Entwicklung von Frontier-KI zu verlangsamen, unabhängigen Prüfern kontinuierlichen Zugang zu den führenden Laboren zu gewähren und gemeinsame Regeln auch mit Wettbewerbern wie China zu etablieren. Amodei argumentierte, die Sicherheitsarbeit sei hinter der Fähigkeitenentwicklung zurückgeblieben. Er rief nicht zu einem vollständigen Stopp auf, sondern zu einem langsameren Tempo. Er begründete seine Forderungen mit konkreten Risiken: dem Verlust der Kontrolle über KI-Systeme, dem Missbrauch für Cyberangriffe und Bioterrorismus sowie schweren wirtschaftlichen Verwerfungen. Ein durch kommerzielle Anreize befeuertes „race to the bottom“ könne diese Risiken verschärfen, weshalb unabhängige Prüfer und gemeinsame Regeln nötig seien. Altman stimmte öffentlich zu: „I agree with Dario that we need to pace the frontier.“ Elon Musk schloss sich der Forderung an.

Trumps Ablehnung globaler KI-Governance am Vortag

Am Vortag hatte US-Präsident Donald Trump bei der UN-Generalversammlung internationale KI-Regulierung abgelehnt und als „globalist scheme“ bezeichnet. Die USA würden das Wachstum nicht bremsen, sagte Trump. Er argumentierte, internationale Kontrollen könnten die technologische Entwicklung einschränken und die Wettbewerbsfähigkeit der USA untergraben. Zudem verglich er Warnungen vor KI mit früheren Klimawarnungen. Er sagte: „I’m not going to stifle growth of something that will be bigger than the industrial revolution.“ Damit unterstrich er seine Sorge, dass globale Regeln die wirtschaftliche Führungsposition der USA gefährden könnten. Im Sicherheitsrat erklärte Michael Kratsios, Direktor des Office of Science and Technology Policy, die USA lehnten zentrale Kontrolle und globale Governance von KI durch internationale Gremien vollständig ab. Kratsios begründete dies mit der Ablehnung bürokratischen Managements und betonte die Unabhängigkeit und Souveränität der Nationen.

Internationale Gegenstimmen: Guterres, von der Leyen und über 20 Länder

UN-Generalsekretär António Guterres warnte vor einem „race to the bottom on AI safety“ und forderte globale Koordination sowie nationale Maßnahmen. Er betonte, die KI-Entwicklung eile dem Verständnis der Risiken voraus; nationale Maßnahmen seien essenziell, um Bürger vor KI-Bedrohungen zu schützen, globale Koordination aber unverzichtbar. EU-Kommissionspräsidentin Ursula von der Leyen verlangte eine Verlangsamung der Entwicklung von Frontier-KI und engere Sicherheitskooperation mit Kanada, Großbritannien und gleichgesinnten Ländern. Sie begründete dies mit dem disruptiven Potenzial der Frontier-KI-Modelle. Mehr als 20 Länder forderten stärkere KI-Aufsicht und diskutierten einen internationalen Überwachungsmechanismus unter der UNO; die USA und China unterzeichneten die Erklärung nicht.

Widerspruch innerhalb der Industrie: Zuckerberg distanziert sich

Mark Zuckerberg distanzierte Meta am Mittwoch von der Forderung nach Verlangsamung. Er argumentierte, jedes KI-Unternehmen müsse selbst für die Sicherheit seiner Technologie sorgen, statt branchenweite Koordination oder Verlangsamung zu unterstützen. Meta setzt auf eigene Sicherheitsmaßnahmen.

Risiken und Kontinuität: Frankreichs Konzeptpapier und OpenAIs frühere Position

Frankreichs Konzeptpapier, das den Ratsmitgliedern zuvor zugeleitet worden war, nennt Risiken wie Fehlausrichtung, Kontrollverlust, autonome Angriffe auf kritische Infrastruktur und mögliche AGI beziehungsweise rekursive Selbstverbesserung. Fehlausrichtung bedeutet, dass KI-Systeme entgegen menschlicher Absichten handeln könnten; Kontrollverlust beschreibt den Verlust der Steuerungsfähigkeit über hochentwickelte Modelle; autonome Angriffe auf kritische Infrastruktur könnten schwerwiegende internationale Sicherheitsfolgen haben; die mögliche Entstehung von AGI mit rekursiver Selbstverbesserung erhöhe das Risiko des Verlusts menschlicher Kontrolle zusätzlich. Altman nannte zwei Hauptrisiken: Kontrollverlust über KI und übermäßige Machtkonzentration. Er schrieb auf X, dass Ausrichtung und Sicherheitstechniken der Modellfähigkeiten voraus sein müssten. OpenAI hatte sich bereits früher für verbindliche KI-Sicherheitsregeln ausgesprochen und kalifornische Gesetze unterstützt (Archiv-Link: OpenAI-Stellungnahme).