BSI veröffentlicht Prüfkatalog für KI im Finanzsektor

BSI veröffentlicht Prüfkatalog für KI im Finanzsektor

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat den „Test Criteria Catalogue for AI Systems in Finance“ (AICRIV Test Criteria Catalogue) veröffentlicht. Der Katalog schließt eine zentrale Lücke zwischen den hochrangigen Prinzipien des EU AI Acts und der praktischen Prüfung von KI-Systemen im Finanzsektor. Während der AI Act abstrakte Anforderungen wie Robustheit, Fairness und Transparenz formuliert, fehlten bislang konkrete, operationalisierbare Testvorgaben. Genau hier setzt das BSI-Dokument an: Es leitet aus realen Anwendungsfällen strukturierte Prüfkriterien ab, die eine einheitliche und nachvollziehbare Bewertung ermöglichen. So verlangt der AI Act beispielsweise, dass KI-Systeme robust gegenüber Manipulationen sein müssen. Der AICRIV-Katalog konkretisiert dies, indem er etwa die Prüfung der Vorhersagestabilität bei verrauschten Eingabedaten oder bei adversarialen Beispielen vorschreibt. Für die Fairness-Dimension werden Metriken wie demografische Parität oder Chancengleichheit hinterlegt, sodass Verzerrungen systematisch gemessen werden können. Auch die Transparenz wird durch Kriterien zur Nachvollziehbarkeit von Modellentscheidungen und zur Dokumentation von Trainingsdaten greifbar gemacht. Der Katalog fungiert damit als Übersetzungswerkzeug, das die Prinzipien des AI Acts in einen testbaren Kriterienkatalog überführt und sowohl Banken und Versicherungen als auch Prüfinstitutionen eine klare Handlungsgrundlage bietet. Die Kriterien sind so konzipiert, dass sie über den Finanzsektor hinaus anwendbar sind und eine risikobasierte, ganzheitliche Prüfung unterstützen.

Konkrete Kriterien für Robustheit, Fairness und Transparenz

Der Katalog deckt die fünf zentralen Bewertungsdimensionen Robustheit, Fairness, Transparenz, Datenqualität und IT-Sicherheit ab und hinterlegt jede mit spezifischen Prüfkriterien. Robustheit wird dabei als Widerstandsfähigkeit gegenüber Eingabestörungen und adversarialen Angriffen verstanden; entsprechende Kriterien prüfen etwa, ob ein Kreditwürdigkeitsmodell bei minimal veränderten Antragsdaten konsistente Ergebnisse liefert. Fairness zielt auf die Vermeidung unzulässiger Diskriminierung ab und wird durch Metriken wie „Equal Opportunity“ oder „Demographic Parity“ operationalisiert, die Verzerrungen gegenüber geschützten Gruppen messbar machen. Transparenz umfasst die Erklärbarkeit von Modellentscheidungen und die lückenlose Dokumentation der Datenherkunft, sodass Prüfer nachvollziehen können, wie eine Entscheidung zustande kam. Die Datenqualität wird anhand von Kriterien wie Vollständigkeit, Korrektheit und Repräsentativität der Trainingsdaten bewertet, um Verzerrungen durch fehlerhafte Datenbasen zu verhindern. Die IT-Sicherheit schließlich adressiert den Schutz vor unbefugtem Zugriff, Datenvergiftung und Modellmanipulation. Durch diese Konkretisierung wird aus den vagen Prinzipien des AI Acts ein praktisch anwendbares Framework, das eine systematische, nachvollziehbare und vergleichbare Testpraxis etabliert. Die Ausrichtung an realen Anwendungsfällen stellt sicher, dass die Kriterien nicht nur theoretisch fundiert, sondern auch operativ umsetzbar sind.

BaFin-Aufsicht erhält praktisches Werkzeug

Die Finanzaufsicht BaFin überwacht bereits den KI-Einsatz in der Finanzbranche und kann den AICRIV-Katalog als konkretes Prüfinstrument in ihre Aufsichtsprozesse integrieren. Der Katalog liefert standardisierte Bewertungskriterien, die eine einheitliche und vergleichbare Prüfung von KI-Systemen ermöglichen. Die BaFin könnte den Katalog beispielsweise als Referenzrahmen für externe Audits vorschreiben oder von Instituten verlangen, ihre KI-Anwendungen anhand der AICRIV-Kriterien selbst zu bewerten und die Ergebnisse im Rahmen der Jahresabschlussprüfungen offenzulegen. Auch als Grundlage für anlassbezogene Sonderprüfungen oder für die Bewertung von Risikomodellen im Aufsichtsprozess ist der Katalog geeignet. Finanzinstitute erhalten damit eine klare Orientierung, welche konkreten Anforderungen sie erfüllen müssen, und die Aufsicht gewinnt ein behördlich abgestimmtes Werkzeug, das die Rechtssicherheit für alle Beteiligten erhöht. Die standardisierten Kriterien erleichtern zudem den Dialog zwischen Aufsicht und Instituten, da beide Seiten auf denselben Prüfmaßstab zurückgreifen können.

Antwort auf mangelnde verantwortungsvolle KI-Forschung

Eine frühere Studie hatte offengelegt, dass Unternehmen im Finanzsektor kaum systematisch zu verantwortungsvoller KI forschen. Die Befragung von Finanzinstituten ergab, dass nur ein geringer Anteil dedizierte Forschungsaktivitäten zu Fairness, Robustheit oder Transparenz von KI-Systemen betrieb; konkrete Projekte zur Messung und Minderung von Bias oder zur Erklärbarkeit von Modellen waren die Ausnahme. Der nun veröffentlichte AICRIV-Katalog adressiert diese Lücke, indem er einen verbindlichen Rahmen mit operationalisierbaren Prüfkriterien setzt. Die strukturierten Vorgaben zu Fairness, Robustheit und Transparenz zwingen Entwickler und Betreiber, sich systematisch mit diesen Themen auseinanderzusetzen und entsprechende Nachweise zu erbringen. Dadurch wird die Forschung zu verantwortungsvoller KI nicht länger dem freiwilligen Engagement einzelner Akteure überlassen, sondern durch konkrete, nachprüfbare Anforderungen gestützt. Der Katalog fördert so eine Entwicklung, die Sicherheit und ethische Grundsätze von Beginn an in den Mittelpunkt stellt und die Vertrauenswürdigkeit von KI-Systemen im Finanzsektor nachhaltig stärkt.