KI-Sicherheit ohne Vertrauen: Harvard-Fellow schlägt FATF-Modell vor

Wagmans Vorschlag: KI-Sicherheit ohne Vertrauen nach FATF-Vorbild

Ein globales KI-Sicherheitsabkommen ist nach Ansicht von Shlomit Wagman möglich, wenn es für eine Welt ohne Vertrauen konzipiert wird – nicht weil Staaten oder Unternehmen einander vertrauen, sondern weil das Abkommen ohne Vertrauen auskommt. Die Research Fellow am M-RCBG der Harvard Kennedy School und frühere Vorsitzende der israelischen Financial Intelligence Agency sowie der FATF Risk Working Group argumentiert in einem Beitrag für Fortune, dass das erste funktionsfähige Abkommen für eine Welt ohne Vertrauen entworfen werden müsse. Als Vorbild diene nicht die nukleare Rüstungskontrolle, sondern das Modell der Financial Action Task Force (FATF) aus der Finanzintegrität. Dieses habe Verhalten in mehr als 200 Jurisdiktionen verändert, ohne einen jahrzehntelangen Vertragsprozess zu durchlaufen. Wagman verknüpft damit die jüngsten Warnungen aus der KI-Branche mit einem konkreten Governance-Architekturvorschlag. Ihre Kernthese: Ein vertrauensloses, aber durchsetzungsfähiges Abkommen ist nötig und machbar – gerade weil Unternehmen in einem wettbewerblichen Markt und Regierungen in einem geopolitischen Wettlauf agieren, in dem einseitige Zurückhaltung ein strategischer Nachteil wäre.

Die jüngsten Warnungen: Coxon-Rücktritt und Amodeis 'pacing the frontier'

Wagman verweist auf ein geschlossenes Treffen in San Francisco, an dem sie vor einigen Monaten mit leitenden KI-Entwicklern und Sicherheitsforschern mehrerer führender Frontier-Labore teilgenommen habe. Die Botschaft dort sei gewesen, dass KI-Fähigkeiten bald schneller voranschreiten könnten als die Fähigkeit, sie zu verstehen und zu kontrollieren; falls die Sicherheit nicht Schritt halten könne, müsse die Entwicklung selbst verlangsamt werden. Als Beleg für die Dringlichkeit führt sie den Rücktritt von Jacob Coxon an, der zuvor bei OpenAI und Anthropic gearbeitet hatte und Anthropic mit einer Warnung vor dem Wettlauf zu sich selbst verbessernder KI verließ. Zudem nennt sie den öffentlichen Aufruf von Anthropic-CEO Dario Amodei zum 'pacing the frontier'. Amodei schlägt nach Wagmans Darstellung Maßnahmen auf drei Ebenen vor: innerhalb der Frontier-Unternehmen, zwischen Unternehmen und Regierungen sowie global, einschließlich China. Die dritte Ebene sei die mit Abstand schwierigste – und könne darüber entscheiden, ob die ersten beiden funktionieren.

Warum einseitige Zurückhaltung scheitert und das FATF-Modell funktionieren soll

Wagmans zentrales Argument lautet: Sicherheit scheitert, wenn Zurückhaltung bedeutet, das Rennen zu verlieren. Einseitige Zurückhaltung sei ein strategischer Nachteil, kein Sicherheitsmechanismus – das gelte für Unternehmen im Wettbewerb ebenso wie für Regierungen im geopolitischen Wettlauf. Interne Sicherheitsrahmen wie Anthropics Responsible Scaling Policy oder OpenAIs Preparedness Framework hätten eine strukturelle Schwäche: Sie blieben intern. Als Lösung schlägt Wagman eine KI-Version der FATF-Architektur vor. Deren Elemente: gemeinsame Normen zu katastrophalen Risiken, unabhängige Expertenbewertung, öffentlich-private operative Standards, spürbare Konsequenzen für Unternehmen und Staaten, die Regeln ignorieren, sowie ein Mechanismus, der sich mit der Technologie weiterentwickelt. Bereits in ihrer früheren Harvard-Publikation 'Weaponized AI' hatte Wagman einen koordinierten globalen Rahmen mit gemeinsamen internationalen Standards und Durchsetzungsmechanismen ähnlich dem FATF-Modell gefordert.

Gegenstimme: Matt Sheehan hält verbindliche Abkommen derzeit für unrealistisch

Der Vorschlag stößt auf Widerspruch. Matt Sheehan von der Carnegie Endowment for International Peace hält verbindliche Abkommen mit echten Zähnen zwischen den USA und China derzeit für wahrscheinlich nicht möglich. Er begründet dies damit, dass die USA und China bei KI-Sicherheit nicht im Gleichschritt vorgehen werden und verbindliche Abkommen mit echten Zähnen derzeit wahrscheinlich nicht möglich sind. Stattdessen plädiert er für einen Ansatz, den er 'AI safety in parallel' nennt: parallele, bescheidene Schritte beider Länder statt gemeinsam durchgesetzter Vereinbarungen. Der Unterschied liegt in der Einschätzung der politischen Realisierbarkeit. Wagman hält ein FATF-ähnliches Abkommen gerade deshalb für realisierbar, weil es nicht auf gegenseitigem Vertrauen beruht, sondern auf gemeinsamen Normen, unabhängiger Bewertung und Konsequenzen, die auch ohne bilaterale Freundschaft durchsetzbar sind. Sheehan dagegen sieht die geopolitischen Hindernisse als so groß an, dass derzeit nur parallele, bescheidene Schritte möglich sind.

Regulatorischer Rahmen: UN-Debatte und Chinas erste KI-Streitregeln

Die Debatte findet in einem sich verdichtenden regulatorischen Umfeld statt. Der UN-Sicherheitsrat hat eine offene Debatte zum Thema 'Künstliche Intelligenz und internationaler Frieden und Sicherheit' abgehalten, bei der Mitgliedstaaten über den verantwortungsvollen Einsatz von KI einschließlich militärischer Anwendungen berieten. Parallel hat Chinas Oberstes Volksgericht erstmals KI-Streitregeln veröffentlicht. Beide Entwicklungen sind für die Frage eines globalen Abkommens relevant.