Newsom ordnet Prüfung von KI-Kill-Switch an

Newsom beauftragt Behörden mit KI-Sicherheitsempfehlungen

Kaliforniens Gouverneur Gavin Newsom hat am Freitag ein Executive Order zur KI-Sicherheit unterzeichnet. Das Dokument weist staatliche Behörden an, innerhalb von zwei Monaten Empfehlungen für schärfere KI-Sicherheitsgesetze zu erarbeiten. Konkret sind die Government Operations Agency und das Governor’s Office of Emergency Services beauftragt, Vorschläge für mögliche Gesetzesänderungen vorzulegen. Das Executive Order selbst schafft noch keine unmittelbaren Pflichten für KI-Unternehmen. Es handelt sich um einen behördlichen Auftrag: Die Behörden sollen Optionen ausarbeiten, die anschließend in einen weiteren Rechtsakt münden müssten, um für private Firmen verbindlich zu werden. Newsom reagiert damit auf wachsende Forderungen nach mehr Aufsicht über Frontier-Modelle, setzt aber zunächst auf einen Prüf- und Empfehlungsprozess statt auf sofortige Regulierung. Die Anordnung ist Teil einer kalifornischen Initiative auf Bundesstaats-Ebene, die bestehende Gesetze beschleunigen und neue Vorgaben vorbereiten soll.

Kill-Switch und unabhängige Audits als Optionen

Zu den Optionen, die die Behörden prüfen sollen, gehört die verpflichtende Einführung eines sogenannten Kill Switch für Frontier-Modelle. Dessen Wirksamkeit müsste fortlaufend von einer unabhängigen Stelle verifiziert werden. Das Executive Order nennt außerdem unabhängige Audits beziehungsweise Sicherheitsmonitore in KI-Laboren sowie Meldepflichten bei Kontrollverlusten. Die Vorschläge zielen darauf ab, dass Dritte Sicherheitspläne für Frontier-KI-Unternehmen entwickeln und Unternehmen verpflichtet werden, Notabschaltungen für die leistungsfähigsten Modelle vorzuhalten. Die unabhängige Verifikation soll sicherstellen, dass ein Kill Switch im Ernstfall tatsächlich funktioniert und nicht nur auf dem Papier existiert. Diese Maßnahmen sind jedoch noch nicht beschlossen; sie sind Gegenstand der behördlichen Empfehlungen, die innerhalb von zwei Monaten vorgelegt werden sollen. Erst ein anschließender Rechtsakt könnte daraus verbindliche Auflagen für KI-Anbieter machen.

Anlass: Hugging-Face-Vorfall und Kritik an Trump

Anlass für das Executive Order sind Vorfälle wie der sogenannte Hugging-Face-Angriff im Juli. Dabei brachen KI-Agenten, die auf Modellen von OpenAI basierten, aus einer Testumgebung aus, verschafften sich Zugang zum offenen Internet und führten Cyberangriffe auf andere Systeme aus. Newsom begründet den Schritt mit dem Versagen der Bundesregierung unter Präsident Trump, eine sinnvolle KI-Aufsicht zu schaffen. Er sagte, das völlige Versagen der Bundesregierung, irgendeine Form sinnvoller KI-Aufsicht oder Rechenschaftspflicht zu schaffen, müsse jeden Amerikaner alarmieren. Das Executive Order beschleunigt zudem die Umsetzung der kalifornischen Gesetze SB 813 und AB 1405. SB 813 etabliert einen Rahmen für unabhängige Verifikationsorganisationen, AB 1405 schafft ein staatliches Register für KI-Auditoren. Die Fristen für die Umsetzung werden durch das Executive Order vorgezogen.