DHS plant Google-KI für FOIA-Schwärzungen mit menschlicher Kontrolle

DHS plant Google-KI für FOIA-Schwärzungen mit menschlicher Kontrolle

Die US-Regierung plant laut GitHub-Dokumenten, die der Washington Post vorliegen, den Einsatz von Googles KI-Tools (Produktangabe), um bei der Bearbeitung von FOIA-Anfragen automatisch zu empfehlen, welche Informationen geschwärzt werden sollen. Konkret soll Customs and Border Protection (CBP), Teil des Department of Homeland Security (DHS), die Tools nutzen. Bis Ende September soll die KI für Dokumente eingesetzt werden, die mehr als zehn Prozent der FOIA-Anfragen ausmachen, etwa 100.000 bis 140.000 Fälle. Mitarbeiter prüfen die Empfehlungen anschließend, um nach Angaben der Dokumente „genaue und vollständige“ Informationen zu gewährleisten. Erstmals wird damit ein konkreter Plan mit Zeitrahmen und menschlicher Kontrolle bekannt.

Effizienzversprechen: Von Wochen auf Stunden

Befürworter verweisen auf erhebliche Effizienzgewinne durch KI-gestützte Redaktion. Der Bund gab 2024 geschätzt 500 Millionen Dollar für die FOIA-Bearbeitung aus, der Großteil entfiel auf manuelle Schwärzung. Der Rückstand des Justizministeriums überstieg 100.000 offene Anfragen. Die manuelle Prüfung ist zeitintensiv: Bei 20 Minuten pro Anfrage summiert sich der Rückstand auf etwa 2 Milliarden Minuten. KI-Tools reduzieren diese Zeit, indem sie Muster wie Namen, Adressen und Telefonnummern automatisch erkennen – eine Aufgabe, die kein juristisches Urteilsvermögen, sondern reine Mustererkennung erfordert. Algorithmen erledigen dies in Sekunden. ARPA-H und die Gesundheitsbehörde HHS forderten daher KI-Software mit automatischer Erkennung personenbezogener Daten (Exemption 6 und 7(C)), Stapelverarbeitung, Unterstützung gemischter Formate und Audit-Trail-Dokumentation. Eine kontrollierte Studie verglich manuelle Redaktion, ein Tool mit klassischem maschinellem Lernen und das KI-gestützte Tool iDox.ai Redact (Herstellerangabe). Gemessen wurden Genauigkeit und Fertigstellungszeit. Das Ergebnis: iDox.ai Redact (Herstellerangabe) übertraf manuelle Methoden deutlich mit höherer Genauigkeit und schnellerer Bearbeitung, während das klassische ML-Tool keine signifikante Verbesserung zeigte. Bei korrekter Implementierung könne die Bearbeitungszeit von Wochen auf Stunden sinken.

Risiko von Über-Redaktion und Datenschutzverletzungen

Kritiker halten selbst kleine Fehlerraten für inakzeptabel. Bei drei Millionen Seiten und einer Fehlerrate von 0,001 Prozent würden 30 geschützte Zeugen oder 30 Sozialversicherungsnummern offengelegt. Die Folgen wären Bußgelder, Reputationsverlust und ein Vertrauensbruch, der sich nicht reparieren lässt. Zwar leidet auch die manuelle Prüfung unter „Fatigue Blindness“ – Ermüdung führt zu nachlassender Aufmerksamkeit –, doch KI darf nicht ohne menschliche Kontrolle eingesetzt werden. Eine sorgfältige Überprüfung ist zwingend, da Fehler irreversibel sind. Die Zukunft liege nicht in „manuell versus automatisiert“, sondern in einem sorgfältig konstruierten hybriden Ansatz, bei dem die KI Vorschläge macht, aber ein Mensch die endgültige Entscheidung trifft.

Verwandte KI-Projekte und Rahmenwerke in Behörden

Das Vorhaben reiht sich in eine breitere KI-Nutzung in Behörden ein. Das Innenministerium nutzt Microsoft-Tools (Produktangabe) zur Schwärzung von Anwalts-Mandanten-Informationen, das Justizministerium ein Veritone-Tool namens aiWARE (Produktangabe) für Video-Redaktion, und die Gesundheitsbehörde HHS entwickelt ein eigenes Tool namens FRED (Produktangabe). Gesellschaftlich gibt es jedoch begründete Skepsis: US-Bibliotheken halfen Nutzern dabei, KI-Funktionen abzuschalten, ein Workshop zu diesem Thema ging viral. Dies deutet auf eine breite gesellschaftliche Skepsis gegenüber KI in öffentlichen Einrichtungen hin, die sich aus Bedenken hinsichtlich Transparenz und Kontrolle speist. Ein Mathematiker schlug ein wertbasiertes Framework vor, das die KI-Integration an Prinzipien wie Transparenz, Rechenschaftspflicht und Fairness ausrichtet, um sicherzustellen, dass Effizienzgewinne nicht auf Kosten von Bürgerrechten gehen.

Widerspruch: Effizienz versus Sicherheit

Der grundlegende Widerspruch liegt zwischen Effizienzversprechen und Sicherheitsbedenken. Für FOIA-Antragsteller bedeutet schnellere Bearbeitung potenziell mehr Transparenz, doch das Risiko von Datenlecks gefährdet den Schutz personenbezogener Daten – insbesondere für Whistleblower oder gefährdete Personen kann eine fehlerhafte Schwärzung existenzbedrohend sein. Für Transparenz-Advocacy-Gruppen ergibt sich aus diesem Widerspruch ein Spannungsfeld: Einerseits begrüßen sie schnellere Bearbeitung, andererseits müssen sie auf die Integrität der Schwärzungen vertrauen können. Ohne belastbare Fehlerraten und unabhängige Prüfungen bleibt die Automatisierung umstritten. Behörden müssen abwägen, ob die Zeitersparnis die potenziell irreversiblen Folgen von Fehlern rechtfertigt.