OpenAI fordert verbindliche nationale KI-Sicherheitsregeln – und unterstützt kalifornische Gesetzesvorhaben

OpenAI fordert verbindliche nationale KI-Sicherheitsregeln

[Herstellerangabe] OpenAI hat angekündigt, sich für verbindliche nationale KI-Sicherheitsanforderungen einzusetzen. Das Unternehmen will nach eigenen Angaben mit dem Kongress an einer fähigkeitsbasierten nationalen KI-Sicherheitsregulierung arbeiten. [Herstellerangabe] Hintergrund ist nach OpenAI ein neues Kapitel der KI-Fähigkeiten, das ein neues Kapitel der KI-Politik erfordert. Kein Unternehmen, keine Industrie und keine Regierung könne diese Herausforderung allein bewältigen; deshalb brauche es eine Ausrichtung auf konkretes Handeln statt auf politische Perfektion. [Herstellerangabe] OpenAI verweist auf die schnelle Zunahme maschineller Intelligenz und die Möglichkeit rekursiver Selbstverbesserung, die laut Chief Scientist Jakub Pachocki „extreme Vorsicht“ verlange. Diese Risiken will OpenAI durch verbindliche, an Fähigkeiten gekoppelte Sicherheitsregeln adressieren, die sich an dem orientieren, was ein Modell tatsächlich kann, statt an pauschalen Kategorien. [Herstellerangabe] Bis der Kongress handelt, unterstützt OpenAI weiterhin Gesetzgebung auf Ebene der Bundesstaaten, um das breitere KI-Sicherheitsökosystem zu stärken. Konkret nennt das Unternehmen vier kalifornische Vorhaben: SB 813 zur Infrastruktur für unabhängige Sicherheitsbewertungen, AB 1405 zu Standards für KI-Prüfer, SB 1119 zum Schutz junger Menschen und AB 1864 zu Schutzmaßnahmen gegen KI-gestützte biologische Bedrohungen. [Herstellerangabe] Diese Gesetze sollen aus Sicht von OpenAI Lücken schließen, etwa bei der unabhängigen Prüfung von Modellen, bei der Qualifikation von Prüfern, beim Schutz Minderjähriger und bei der Abwehr biologischer Gefahren durch KI. [Herstellerangabe] Zudem will OpenAI mit anderen Frontier-Labs an Industriestandards arbeiten und zunächst eine freiwillige Initiative aufbauen – nach eigenen Angaben mit oder ohne Unterstützung der Regierung. [Herstellerangabe] International setzt sich das Unternehmen für kompatible Ansätze ein, etwa bei der Messung von Fähigkeiten, beim Risikomanagement, bei menschlicher Kontrolle und bei der Frage, wann Entwicklung verlangsamt oder gestoppt werden sollte. OpenAI betont, dass diese Maßnahmen notwendig seien, um mit den rasanten Fortschritten der KI Schritt zu halten und Sicherheitsrisiken zu minimieren.

Gegenwind aus Washington: Trump-Regierung gegen Staats-KI-Gesetze

Diese Haltung steht im Widerspruch zur Linie der Trump-Administration. Wie die Denkfabrik Brookings berichtet, will die Regierung belastende staatliche KI-Gesetze anfechten und Mittel für Staaten mit strengen KI-Gesetzen einschränken. Demnach unterzeichnete Präsident Trump im vergangenen Herbst eine Executive Order, die eine KI-Litigation-Task-Force einrichtete, staatliche KI-Gesetze bewerten ließ und drohte, verbleibende Mittel aus dem Broadband-Equity-Access-and-Deployment-Programm für Staaten mit aufwendigen KI-Gesetzen zu beschränken. Die Administration begründet dies mit dem Ziel, KI-Unternehmen „frei von schwerfälliger Regulierung“ innovieren zu lassen. Während OpenAI kalifornische Gesetzesvorhaben ausdrücklich unterstützt, lehnt die Trump-Regierung genau solche staatlichen Regeln als belastend ab und will sie juristisch angreifen. Der Konflikt zeigt unterschiedliche Prioritäten: OpenAI setzt auf verbindliche Sicherheitsregulierung, die Regierung auf möglichst wenig staatliche Eingriffe und Innovationsfreiheit.