KI-Governance im Unternehmen

Rechts- und Recherchestand 7. August 2026 · Deutschland / Europäische Union mit internationalen Governance- und Forschungsquellen

Neutraler Recherchebestand für eine deutsche Sachbuchreihe. Das Dossier ist keine individuelle Rechts-, Zertifizierungs- oder Unternehmensberatung.

Vorgesehener Dateiname: 05_ki-governance-faktendossier_2026-08-07

Zentrale Einordnung KI-Governance ist kein einzelnes Regelwerk. Sie verbindet Leitungsverantwortung, Rechtskonformität, technische Qualität, Informationssicherheit, Beschäftigtenbeteiligung, interne Kontrolle und wirtschaftliche Steuerung.

Management-Zusammenfassung

KI-Governance ist die organisatorische Fähigkeit, KI-Systeme über ihren gesamten Lebenszyklus nachvollziehbar zu entscheiden, zu begrenzen, zu überwachen und zu verbessern. Das Ziel ist weder maximale Kontrolle noch maximale Geschwindigkeit, sondern eine belastbare Verbindung aus Nutzen, Recht, Sicherheit, Qualität und Verantwortung. ^{[S-033, S-053, S-062]}

ISO/IEC 42001:2023 bietet dafür einen zertifizierbaren Managementsystemrahmen. Er richtet sich an Organisationen, die KI entwickeln, bereitstellen oder nutzen, und arbeitet mit Plan-Do-Check-Act. Die Zertifizierung betrifft jedoch einen definierten Managementsystem-Scope; sie ist weder Produktzertifikat noch pauschaler Nachweis der AI-Act-Konformität. ^{[S-033, S-035, S-028]}

Der NIST AI RMF 1.0 strukturiert freiwilliges Risikomanagement mit Govern, Map, Measure und Manage. Das GenAI-Profil konkretisiert zwölf Risikobereiche. NIST weist am Stichtag darauf hin, dass Version 1.0 überarbeitet wird. Verweise auf NIST müssen deshalb versions- und scopegenau sein. ^{[S-053, S-056, S-054]}

Der AI Act setzt verbindliche Rollen und Pflichten. Besonders governance-relevant sind KI-Kompetenz, Risikomanagement, Qualitätsmanagement, menschliche Aufsicht, Betreiberpflichten, Wertschöpfungskettenverantwortung, Transparenz und Post-Market-Monitoring. Freiwillige Frameworks können die Umsetzung strukturieren, ersetzen aber den Rechtstext nicht. ^{[S-001, S-022, S-026, S-032]}

Die operative Grundlage ist ein aktuelles KI-Inventar. Erfasst werden nicht nur Modelle, sondern konkrete Use Cases, Versionen, Daten, Schnittstellen, Rechte, Nutzergruppen und Prozessfolgen. Ohne Inventar lassen sich keine belastbaren Rechts-, Sicherheits-, Lieferanten- oder Mitbestimmungsprüfungen organisieren. ^{[S-033, S-053, S-038]}

Schatten-KI entsteht häufig durch leicht verfügbare Werkzeuge, Zeitdruck und fehlende sichere Alternativen. Ein Totalverbot kann Nutzung unsichtbar machen. Wirksame Steuerung kombiniert freigegebene Werkzeuge, klare Datenregeln, einen schnellen Antragsweg, angemessene technische Kontrollen, Schulung und konsequentes Vorfallmanagement. ^{[S-096, S-097, S-085]}

Human Oversight ist kein Etikett. Personen müssen kompetent, informiert, befugt und praktisch in der Lage sein, Ergebnisse zu hinterfragen, zu übersteuern, zu stoppen und zu eskalieren. Forschung zu Automationsbias zeigt, dass bloße Fachexpertise oder ein Freigabeklick keine wirksame Kontrolle garantieren. ^{[S-022, S-026, S-092, S-093, S-094]}

In Unternehmen mit Betriebsrat muss Beteiligung früh in den Governance-Prozess integriert werden. § 90 BetrVG nennt KI ausdrücklich bei Arbeitsverfahren und Arbeitsabläufen. § 87 Abs. 1 Nr. 6, § 95 Abs. 2a und §§ 96 bis 98 betreffen je nach Ausgestaltung Überwachung, Auswahlrichtlinien und Qualifizierung. Die Rechte sind getrennt zu prüfen. ^{[S-069, S-070, S-072, S-073]}

Ein wirksames Rollenmodell folgt der Verantwortungskette: Leitung setzt Mandat und Risikogrenzen; Prozesseigner tragen die fachliche Ergebnisverantwortung; IT, Daten, Security, Recht, Datenschutz und HR betreiben oder prüfen Kontrollen; die Interne Revision beurteilt unabhängig. Kleine Unternehmen dürfen Rollen bündeln, nicht aber Verantwortung verschwinden lassen. ^{[S-064, S-037, S-077, S-078]}

Die praktikabelste Einführung erfolgt stufenweise: Ist-Nutzung und Sofortregeln, Inventar und Risikoklassen, schneller Intake und Freigaben, Pilot mit Baseline und Tests, Monitoring und Incident-Prozess, anschließend integriertes Kontrollregister, Management Review und unabhängige Assurance. Eine Zertifizierung ist eine spätere strategische Entscheidung, kein sinnvoller erster Schritt für jedes Unternehmen. ^{[S-033, S-053, S-052]}

Kernaussage für die Unternehmenspraxis Die Organisation muss nicht jedes KI-Risiko eliminieren. Sie muss erkennen, welche Risiken sie eingeht, wer darüber entscheidet, welche Kontrollen tatsächlich wirken und wann ein System gestoppt wird.

Die zehn wichtigsten Entscheidungen

Die 50 wichtigsten Kernaussagen

Methodik und Recherchegrenzen

Quellenstrategie

• Verbindliche Rechtsaussagen stützen sich auf konsolidierte EU-Rechtstexte und deutsche Gesetze. AI-Act-Service-Desk-Seiten dienen der artikelbezogenen Orientierung. ^{[S-001, S-067, S-083]}

• ISO-Standards werden über offizielle ISO-Seiten und den SC-42-Katalog nach Status unterschieden: veröffentlicht, in Revision oder in Entwicklung. ^{[S-033, S-048]}

• NIST-Frameworks und Sicherheitsdokumente werden als freiwillige offizielle Rahmenwerke, nicht als deutsches Recht, ausgewertet. ^{[S-053, S-054, S-059]}

• Berufsständische Rahmenwerke wie Three Lines und COSO werden als interne Kontroll- und Assurance-Modelle gekennzeichnet. ^{[S-064, S-065]}

• Peer-reviewte Studien zu Human Oversight werden nur für die jeweils untersuchte Aufgabe und Population verallgemeinert. ^{[S-092, S-093, S-094, S-095]}

• Shadow-AI-Zahlen stammen aus Anbieterbefragungen oder Telemetrie und werden ausdrücklich nicht als amtlich repräsentative Statistik dargestellt. ^{[S-096, S-097, S-098]}

Statuskategorien

Grenzen des Dossiers

• Die Volltexte kostenpflichtiger ISO-Normen wurden nicht reproduziert. Das Dossier beschreibt öffentlich verifizierbaren Zweck, Status und Governance-Zusammenhang.

• Eine konkrete Zertifizierungsfähigkeit kann nur durch Scope- und Reifeprüfung der Organisation beurteilt werden.

• Arbeitsrechtliche Beteiligungsrechte hängen von konkreter technischer Funktion, organisatorischer Nutzung und betrieblichen Vereinbarungen ab.

• Sektorregeln für Medizin, Finanzwesen, kritische Infrastruktur, Verwaltung oder Produktsicherheit sind nur an Schnittstellen erfasst.

• Anbieterbedingungen und Modellfunktionen können sich kurzfristig ändern und müssen je Beschaffung separat geprüft werden.

• Das Dossier ersetzt keine technische Penetrationsprüfung, Datenschutz-Folgenabschätzung oder Rechtsberatung im Einzelfall.

Quellenstatistik

Governance- und Rechtslandkarte

Prüf-Reihenfolge

Vergleich der Referenzrahmen

NIST-Funktionen in Unternehmenssprache

Crosswalk zu ausgewählten AI-Act-Pflichten

Begriff, Ziel und Reichweite von KI-Governance

Governance ist mehr als Compliance

KI-Governance legt fest, wer über Ziele, Einsatzgrenzen, Risiken, Freigaben und Änderungen entscheidet. Compliance ist ein Teil davon. Hinzu kommen Wertschöpfung, Qualität, Sicherheit, Personal, Beschaffung, Betrieb und die Fähigkeit, ein System kontrolliert abzuschalten. ^{[S-033, S-053, S-062]}

Ein belastbares System verbindet die Leitungs- mit der Anwendungsebene. Die Geschäftsleitung bestimmt Risikobereitschaft und Verantwortlichkeit; Prozesseigner definieren Zweck und Erfolg; Fachfunktionen prüfen Rechts-, Daten-, Sicherheits- und Beschäftigtenrisiken; technische Teams bauen und betreiben Kontrollen. ^{[S-037, S-064, S-077]}

Governance-Objekt richtig bestimmen

Governance darf nicht bei einem Modellnamen stehen bleiben. Erfasst werden müssen der konkrete Anwendungsfall, Systemarchitektur, Datenquellen, Werkzeuge, Rechte, Nutzergruppen, Versionen, Anbieter, Betriebsumgebung und die Einbettung in einen Geschäftsprozess. ^{[S-019, S-040, S-038]}

Dasselbe Basismodell kann als unverbindliche Schreibhilfe ein begrenztes Risiko und als Agent mit Zahlungsrechten ein sehr hohes Risiko erzeugen. Der Zweck und die Wirkung des Gesamtsystems sind daher wichtiger als die Bekanntheit des Modells. ^{[S-056, S-091, S-020]}

Mindestzielbild

Das Mindestzielbild besteht aus einem vollständigen Inventar, einer nachvollziehbaren Klassifizierung, benannten Eigentümern, einem dokumentierten Freigabeweg, wirksamen Kontrollen, Monitoring, Vorfallmanagement und einem Verbesserungszyklus. ^{[S-033, S-053]}

Eine Organisation kann klein beginnen. Sie muss jedoch wissen, welche KI tatsächlich eingesetzt wird, welche Daten und Entscheidungen betroffen sind und wer eine Nutzung genehmigt, überwacht oder stoppt. ^{[S-033, S-088]}

Leitungsverantwortung und organisatorische Verankerung

Verantwortung der Geschäftsleitung

Der Einsatz von KI fällt in allgemeine Organisations- und Sorgfaltspflichten. Leitungsorgane müssen angemessene Informations-, Entscheidungs- und Kontrollstrukturen schaffen. Die konkrete Ausprägung richtet sich nach Rechtsform, Größe, Branche, Risikolage und Bedeutung der KI für das Geschäftsmodell. ^{[S-076, S-077, S-078, S-079]}

Delegation ist möglich, beseitigt aber nicht jede Leitungsverantwortung. Die Leitung muss geeignete Personen auswählen, Zuständigkeiten klären, Ressourcen bereitstellen und sich über wesentliche Risiken und Kontrollschwächen berichten lassen. ^{[S-037, S-077, S-064]}

Risikobereitschaft und Entscheidungsrechte

Eine brauchbare Risikobereitschaft wird nicht als allgemeiner Satz formuliert, sondern in konkrete Grenzen übersetzt: verbotene Daten, unzulässige Autonomie, maximale Transaktionswerte, erforderliche menschliche Freigaben, tolerierte Fehlerquoten und Eskalationsschwellen. ^{[S-033, S-053, S-065]}

Risikoakzeptanz braucht eine namentlich verantwortliche Rolle. Je höher die potenzielle Wirkung auf Personen, Sicherheit, Finanzen oder Rechtspositionen, desto höher muss die Freigabeebene liegen. ^{[S-036, S-034, S-027]}

Gremien und Rollen

Ein AI Governance Board kann Entscheidungen bündeln, ist aber keine gesetzliche Universallösung. In kleinen Unternehmen kann ein festes Vier-Augen-Verfahren mit Geschäftsführung, Prozesseigner und einer unabhängigen Prüfrolle ausreichen. ^{[S-033, S-064]}

Entscheidend sind Mandat, Entscheidungskompetenz, Eskalation, Vertretung und Protokollierung. Ein Gremium ohne klare Rechte erzeugt zusätzliche Sitzungen, aber keine bessere Steuerung. ^{[S-065, S-053]}

ISO/IEC 42001:2023 als Managementsystem

Zweck und Struktur

ISO/IEC 42001 spezifiziert Anforderungen an Aufbau, Umsetzung, Erhaltung und fortlaufende Verbesserung eines KI-Managementsystems. Der Standard richtet sich sowohl an Entwickler und Anbieter als auch an Organisationen, die KI nutzen. ^[S-033]

Als Managementsystemstandard folgt er Plan-Do-Check-Act. Er verlangt nicht bloß Einzelkontrollen, sondern den Zusammenhang zwischen Organisationskontext, Führung, Planung, Unterstützung, Betrieb, Leistungsbewertung und Verbesserung. ^{[S-033, S-052]}

Anwendungsbereich des AIMS

Die Organisation muss den Anwendungsbereich so festlegen, dass wesentliche KI-Aktivitäten und Schnittstellen nicht künstlich ausgeschlossen werden. Ein enger Scope kann zulässig sein, muss aber transparent, sachlich begründet und mit Abhängigkeiten beschrieben sein. ^{[S-033, S-037]}

Für eine Buch- oder Unternehmenspraxis ist wichtig: Eine Zertifizierung eines begrenzten Bereichs bedeutet nicht, dass sämtliche KI-Systeme des Konzerns erfasst sind. Scope, Standorte, Prozesse und Ausschlüsse müssen gelesen werden. ^{[S-033, S-035]}

Dokumentierte Information und Nachweise

Wirksame Governance benötigt belastbare Nachweise: Richtlinien, Rollen, Inventar, Risikobewertungen, Freigaben, Kontrollen, Kompetenznachweise, Lieferantenprüfungen, Testberichte, Vorfälle, Managementbewertungen und Korrekturmaßnahmen. ^{[S-033, S-052]}

Dokumentation soll Entscheidungsfähigkeit ermöglichen. Sie darf weder zu einer ungepflegten Formularsammlung noch zu einer bloßen Präsentation für Audits verkommen. ^{[S-033, S-065]}

Zertifizierung richtig einordnen

ISO/IEC 42006 ergänzt die Kompetenz- und Verfahrensanforderungen für Zertifizierungsstellen. ISO selbst zertifiziert keine Organisationen. Zertifizierung bewertet den definierten AIMS-Scope und ist von einer Produktkonformitätsbewertung zu unterscheiden. ^{[S-035, S-029]}

Eine AIMS-Zertifizierung kann Governance-Reife und Auditierbarkeit unterstützen. Sie ersetzt jedoch keine Einzelfallprüfung nach AI Act, DSGVO, Arbeitsrecht, Produktsicherheit oder Sektorrecht. ^{[S-033, S-028, S-083, S-067]}

Wichtige Grenze ISO/IEC 42001 bewertet ein Managementsystem in einem definierten Scope. Das Zertifikat ist weder Produktzertifikat noch pauschaler Rechtsnachweis.

Das ISO-Ökosystem rund um KI

Risikomanagement, Lebenszyklus und Wirkung

ISO/IEC 23894 ergänzt allgemeines Risikomanagement um KI-spezifische Gesichtspunkte. ISO/IEC 5338 strukturiert Lebenszyklusprozesse. ISO/IEC 42005 fokussiert Wirkungen auf Personen, Gruppen und Gesellschaft. ^{[S-036, S-038, S-034]}

Diese Instrumente können in einen gemeinsamen Unternehmensprozess integriert werden: Intake, Kontextbeschreibung, Risikobewertung, Impact Assessment, Maßnahmenplan, Freigabe, Monitoring und Neubewertung. ^{[S-033, S-034, S-036]}

Daten- und Systemqualität

Die ISO/IEC-5259-Reihe behandelt Datenqualität für Analytics und maschinelles Lernen. Für Governance bedeutet das: Datenherkunft, Relevanz, Repräsentativität, Messfehler, Aktualität, Dokumentation und Verantwortlichkeit müssen operationalisiert werden. ^[S-041]

ISO/IEC 25059 ordnet Qualitätsmerkmale von KI-Systemen. Ein Unternehmen sollte daraus nicht wahllos Metriken übernehmen, sondern Qualitätsziele aus Zweck und Schadenspotenzial ableiten. ^{[S-042, S-053]}

Bias, Transparenz und Kontrollierbarkeit

Technische Berichte und Spezifikationen zu Bias, Vertrauenswürdigkeit, Transparenz und Kontrollierbarkeit liefern Begriffe und Prüfpunkte. Sie sind jedoch keine Garantie für Fairness oder Rechtskonformität. ^{[S-043, S-044, S-046, S-045]}

Die künftige ISO/IEC 42105 zur menschlichen Aufsicht befand sich am Stichtag im FDIS-Stadium. Sie darf noch nicht wie ein final veröffentlichter Standard behandelt werden. ^{[S-047, S-048]}

NIST AI RMF 1.0 und GenAI-Profil

Govern, Map, Measure, Manage

Govern schafft Querschnittsvoraussetzungen wie Rollen, Kultur, Richtlinien und Rechenschaft. Map beschreibt Kontext, Stakeholder, Zweck und Auswirkungen. Measure bewertet Risiken und Vertrauenswürdigkeitsmerkmale. Manage priorisiert, behandelt, überwacht und kommuniziert Risiken. ^[S-053]

Die Funktionen sind miteinander verbunden und nicht zwingend linear. Ein neues Messergebnis kann eine erneute Kontextanalyse auslösen; ein Vorfall kann Governance, Risikobereitschaft und Lieferantensteuerung verändern. ^{[S-053, S-055]}

Playbook, Profile und Crosswalks

Das Playbook bietet vorgeschlagene Handlungen zu Unterkategorien, ist aber ausdrücklich keine vollständige Checkliste. Profile übersetzen den Rahmen auf Technologien, Branchen oder Anwendungsfälle. ^{[S-055, S-058]}

Crosswalks erleichtern die Zuordnung zu anderen Rahmenwerken. Ihre Aufnahme auf der NIST-Seite bedeutet keine NIST-Billigung und keine Garantie vollständiger Abdeckung. ^[S-057]

Besonderheiten generativer KI

Das GenAI-Profil hebt Risiken hervor, die bei generativen Systemen besondere Aufmerksamkeit verlangen: Konfabulation, gefährliche Inhalte, Datenschutz, Bias, Mensch-KI-Konfiguration, Informationsintegrität, Informationssicherheit, geistiges Eigentum und Wertschöpfungskettenrisiken. ^[S-056]

Für Unternehmen besonders relevant ist die Kombination aus systemischen Modellgrenzen und konkreter Integration. Ein Modell kann eine falsche Antwort erzeugen; erst Zugriffsrechte und Prozessautomatisierung entscheiden, ob daraus ein Textfehler oder eine Zahlung wird. ^{[S-056, S-091]}

Revisionsrisiko

NIST weist am Stichtag darauf hin, dass AI RMF 1.0 überarbeitet wird. Unternehmen sollten interne Zuordnungen versionsfest dokumentieren und nicht behaupten, dauerhaft "NIST-konform" zu sein, ohne die konkrete Version und den Scope zu nennen. ^[S-054]

Ein Refresh-Prozess muss Änderungen an Framework, Playbook, Profilen und technischen Veröffentlichungen erfassen. ^{[S-054, S-061]}

Aktualitätsrisiko NIST AI RMF 1.0 wird überarbeitet. Interne Mappings müssen Version und Stand nennen.

Crosswalk: Recht, Standards und interne Kontrollen

Keine Eins-zu-eins-Gleichsetzung

AI Act, ISO/IEC 42001, NIST AI RMF und COSO verwenden teilweise ähnliche Begriffe, verfolgen aber verschiedene Zwecke. Das Gesetz definiert Pflichten und Rollen; ISO formuliert Managementsystemanforderungen; NIST strukturiert freiwilliges Risikomanagement; COSO fokussiert interne Kontrolle. ^{[S-001, S-033, S-053, S-065]}

Ein Crosswalk sollte daher nicht nur gleichlautende Überschriften verbinden. Er muss auf Kontrollebene zeigen, welche konkrete Pflicht durch welchen Prozess, welche Evidenz und welche Überwachung unterstützt wird. ^{[S-028, S-057, S-033]}

Harmonisierung und Konformitätsvermutung

Harmonisierte Standards können nach Art. 40 eine Konformitätsvermutung vermitteln, wenn ihre Referenzen im EU-Amtsblatt veröffentlicht sind und nur soweit sie die jeweilige Anforderung abdecken. ^{[S-028, S-015]}

Ein existierender internationaler Standard wird nicht allein durch thematische Nähe zum harmonisierten Standard. Unternehmen müssen Veröffentlichungsstatus, Scope und abgedeckte Anforderungen prüfen. ^{[S-017, S-016]}

Gemeinsames Kontrollregister

Ein integriertes Kontrollregister ordnet jeder Kontrolle Risiko, Rechtsbezug, Framework-Bezug, Eigentümer, Frequenz, Evidenz, Testmethode und Befundstatus zu. Damit werden Doppelprüfungen reduziert und Lücken sichtbar. ^{[S-033, S-065, S-064]}

Beispiel: "Berechtigungsprüfung für RAG-Quellen" kann zugleich Informationssicherheit, Datenschutz, AI-Act-Risikomanagement und NIST-Manage-Ziele unterstützen, bleibt aber eine konkrete technische Kontrolle. ^{[S-083, S-053, S-087]}

KI-Inventar und Systemlandkarte

Was inventarisiert werden muss

Das Inventar sollte mindestens Zweck, Prozesseigner, System-/Modellname, Version, Anbieter, Nutzer, Datenarten, Schnittstellen, Autonomie, betroffene Personen, Rechtsklassifizierung, Risiko, Freigabestatus und nächste Überprüfung enthalten. ^{[S-033, S-053, S-030]}

Für Agenten sind zusätzlich Werkzeuge, Identitäten, Berechtigungen, Transaktionsgrenzen und abhängige Systeme zu erfassen. Für RAG-Anwendungen gehören Wissensquellen und Berechtigungslogik dazu. ^{[S-056, S-091]}

Discovery und Schattenbestand

Inventarisierung beginnt nicht nur mit Umfragen. Beschaffungsdaten, Single-Sign-on, Browser-/CASB-Telemetrie, API-Verbrauch, Softwarekataloge und Interviews liefern unterschiedliche Ausschnitte. ^{[S-096, S-098, S-084]}

Technische Erkennung muss datenschutz- und mitbestimmungskonform gestaltet werden. Die Organisation darf Schatten-KI nicht mit grenzenloser Beschäftigtenüberwachung bekämpfen. ^{[S-083, S-069, S-081]}

Status und Lebenszyklus

Jeder Eintrag braucht einen Status: Idee, Pilot, freigegeben, eingeschränkt, pausiert, außer Betrieb oder verboten. Stillgelegte Systeme bleiben für Aufbewahrung, Vorfälle und Regress eine Zeit lang nachvollziehbar. ^{[S-038, S-032]}

Ein veraltetes Inventar ist gefährlicher als ein kleines, gepflegtes Inventar. Pflichtfelder, Owner-Reviews und automatisierte Datenquellen verbessern Aktualität. ^{[S-033, S-065]}

Risikoklassifizierung und Freigabestufen

Mehrdimensionale Klassifizierung

Ein einziges Ampelfeld genügt selten. Sinnvoll sind getrennte Dimensionen für Auswirkungen auf Menschen und Grundrechte, Datenschutz, Informationssicherheit, finanzielle Wirkung, Betriebskritikalität, rechtliche Klassifizierung, Reputationsrisiko und Abhängigkeit von Dritten. ^{[S-034, S-083, S-053, S-020]}

Die Gesamtstufe entsteht nicht durch blindes Mitteln. Ein einzelnes nicht akzeptables Risiko kann eine Nutzung sperren, auch wenn andere Dimensionen niedrig sind. ^{[S-036, S-033]}

Beispiel für vier Freigabestufen

Stufe 1 umfasst begrenzte Assistenz ohne sensible Daten oder externe Wirkung. Stufe 2 betrifft interne Prozesse mit kontrollierbaren Folgen. Stufe 3 umfasst erhebliche Personen-, Finanz- oder Betriebswirkung. Stufe 4 betrifft verbotene, nicht beherrschbare oder regulatorisch besonders kritische Nutzung. ^{[S-053, S-034, S-001]}

Die Stufe steuert Prüftiefe, Gremien, Tests, Dokumentation, Monitoring und Wiederholungsintervall. Sie ersetzt keine gesetzliche Klassifizierung. ^{[S-020, S-027, S-033]}

Abbruch- und Sperrkriterien

Sofortige Sperrgründe können fehlende Rechtsgrundlage, unbeherrschbare Datenoffenlegung, verbotene Praxis, fehlende Eingriffsmöglichkeit, nicht akzeptierbare Fehler oder ungeklärte kritische Lieferantenabhängigkeit sein. ^{[S-005, S-083, S-022, S-056]}

Abbruchkriterien müssen vor dem Pilot feststehen. Sonst verschiebt wirtschaftlicher oder politischer Druck die Risikogrenze während des Projekts. ^{[S-033, S-053]}

Rollenmodell und RACI

Kernrollen

Typische Rollen sind Geschäftsleitung, AI Governance Lead, Prozesseigner, Product Owner, Model Owner, Data Owner, IT-Betrieb, Informationssicherheit, Datenschutz, Recht/Compliance, Einkauf, HR, Betriebsrat, Risikomanagement und Interne Revision. ^{[S-033, S-064, S-067]}

Nicht jede Rolle benötigt eine eigene Stelle. Rollen dürfen gebündelt werden, solange Entscheidung, Kontrolle und unabhängige Prüfung nicht unbemerkt in einer Person kollidieren. ^{[S-064, S-052]}

Accountable ist nicht Responsible

Responsible führt eine Aufgabe aus; Accountable trägt die Ergebnisverantwortung. Ein Entwickler kann Tests durchführen, während der Prozesseigner für die Freigabe des Geschäftsprozesses verantwortlich bleibt. ^{[S-064, S-065]}

Für jede wesentliche Kontrolle sollte genau eine accountable Rolle feststehen. Mehrere gleichrangig Verantwortliche führen häufig dazu, dass niemand entscheidet. ^[S-033]

Unabhängige Prüfung

Zweite-Linie-Funktionen beraten, setzen Rahmen und überwachen. Interne Revision beurteilt unabhängig Governance, Risikomanagement und Kontrollen. Sie sollte nicht dauerhaft Eigentümer operativer Freigaben sein. ^[S-064]

Bei kleinen Unternehmen können externe Prüfer, rotierende Reviews oder ein dokumentiertes Vier-Augen-Prinzip Mindestunabhängigkeit schaffen. ^{[S-052, S-088]}

Intake, Beschaffung und Change Management

Einheitlicher Intake

Jede neue Nutzung sollte mit einem kurzen Intake beginnen: Problem, erwarteter Nutzen, Nutzer, Daten, externe Wirkung, Autonomie, Anbieter, Integrationen und potenzielle Schäden. Niedrige Risiken werden schnell freigegeben; hohe Risiken lösen Vertiefung aus. ^{[S-033, S-053]}

Der Intake darf keine 80-Fragen-Hürde für jeden Textassistenten sein. Ein gestuftes Verfahren erhöht Akzeptanz und verhindert Umgehung. ^{[S-088, S-096]}

Beschaffung

Einkauf muss neben Preis und Funktion unter anderem Datenverwendung, Unterauftragnehmer, Speicherorte, Trainingsnutzung, Sicherheitsnachweise, Modelländerungen, Auditmöglichkeiten, Incident-Kommunikation, Haftung, Portabilität und Exit prüfen. ^{[S-085, S-083, S-033]}

Anbieterbehauptungen sind Evidenz einer niedrigen Stufe. Höhere Risiken verlangen Verträge, unabhängige Berichte, Konfigurationstests, technische Evaluationen oder Pilotdaten. ^{[S-052, S-059]}

Änderungen

Change Management erfasst Modellversion, Prompt-/Policy-Änderungen, Datenquellen, RAG-Korpus, Werkzeuge, Rechte, Nutzergruppen, Schwellenwerte und Prozesslogik. Auch eine scheinbar kleine Änderung kann Auswirkungen oder Rechtsstatus verändern. ^{[S-038, S-025, S-032]}

Ein risikobasierter Schwellenkatalog trennt Routineänderungen von erneuter Freigabe. Notfalländerungen benötigen nachgelagerte Prüfung und dokumentierte Rückkehr zum Normalprozess. ^{[S-033, S-065]}

Risiko- und Wirkungsprüfung

Gemeinsamer Kern

Risikobewertung beginnt mit Kontext, Stakeholdern, beabsichtigter und vorhersehbarer Fehlanwendung. Danach werden Ursachen, Ereignisse, Auswirkungen, vorhandene Kontrollen, Restwahrscheinlichkeit und Restschaden bewertet. ^{[S-036, S-053, S-034]}

Bei generativer KI müssen Unsicherheit, Konfabulation, Informationsintegrität, Sicherheitsangriffe, Wertschöpfungskette und menschliche Abhängigkeit ausdrücklich betrachtet werden. ^{[S-056, S-060]}

Drei Prüfungen auseinanderhalten

Die DSFA nach Art. 35 DSGVO bewertet hohe Risiken einer personenbezogenen Verarbeitung. Die FRIA nach Art. 27 AI Act trifft bestimmte Betreiber bestimmter Hochrisiko-Systeme. ISO/IEC 42005 bietet einen breiteren, freiwilligen Rahmen für Auswirkungen. ^{[S-083, S-027, S-034]}

Ein integriertes Formular kann gemeinsame Daten nutzen, muss aber Auslöser, gesetzliche Mindestinhalte, Verantwortliche, Konsultation und Veröffentlichungspflichten getrennt ausweisen. ^{[S-083, S-027]}

Nachweis der Maßnahmenwirkung

Eine Maßnahme ist nicht deshalb wirksam, weil sie in einer Richtlinie steht. Testfälle, Zugriffsauswertungen, Stichproben, Nutzerbeobachtung, Red Teaming, Beschwerdedaten und Incident-Analysen prüfen tatsächliche Wirkung. ^{[S-053, S-059, S-052]}

Rest-Risiken werden mit Begründung akzeptiert, weiter reduziert, übertragen oder durch Verzicht vermieden. ^{[S-036, S-033]}

Daten-, Modell- und Lieferantengovernance

Datenverantwortung

Data Owner müssen Qualität, Zweck, Zugriff, Herkunft, Rechtsgrundlage, Aufbewahrung und Freigabe regeln. Technische Verfügbarkeit ist keine inhaltliche oder rechtliche Freigabe. ^{[S-041, S-083]}

Für RAG ist jedes Dokument Teil der Systemqualität. Veraltete, widersprüchliche oder falsch berechtigte Quellen erzeugen systematische Fehler, selbst wenn das Basismodell unverändert bleibt. ^{[S-056, S-041]}

Modellgovernance

Modellgovernance dokumentiert Herkunft, Lizenz, Version, Fähigkeiten, Grenzen, Evaluierungen, bekannte Schwächen, Updatepfad und zulässige Nutzungen. Bei externen Modellen bleiben viele Informationen nur begrenzt verfügbar; diese Unsicherheit ist selbst ein Risiko. ^{[S-040, S-056, S-011]}

Model Cards und Benchmarks sind Ausgangspunkte, keine Freigabe. Eigene Tests müssen den konkreten Prozess, die Sprache, Daten und Folgen abbilden. ^{[S-053, S-042]}

Lieferanten und Wertschöpfungskette

Die KI-Wertschöpfungskette umfasst Basismodell, Hosting, Datenanbieter, Integrator, Plugins, Vektordatenbank, Monitoring und Schnittstellen. Ein Ausfall oder eine Änderung eines Glieds kann das Gesamtsystem verändern. ^{[S-056, S-025]}

Verträge müssen Informations- und Änderungsrechte so weit sichern, wie dies für die eigene Verantwortung erforderlich ist. Fehlt Transparenz, muss die Organisation das Risiko reduzieren, technisch begrenzen oder auf die Nutzung verzichten. ^{[S-033, S-085]}

Schatten-KI und akzeptable Nutzung

Ursachen

Schatten-KI entsteht häufig aus leichtem Zugang, Zeitdruck, fehlenden Alternativen, langsamer Beschaffung und unklaren Regeln. Sie ist daher ein Signal für Governance- und Produktlücken, nicht nur für Fehlverhalten einzelner Beschäftigter. ^{[S-096, S-098]}

Anbieterbefunde zu BYOAI und Datenbewegung sind nicht als amtliche Gesamtstatistik zu lesen. Sie zeigen jedoch, dass informelle Nutzung ein relevantes Kontrollthema ist. ^{[S-096, S-097, S-098]}

Steuerungsmodell

Ein praktikables Modell definiert erlaubte Werkzeuge und Datenklassen, stellt sichere Zugänge bereit, blockiert besonders riskante Dienste, überwacht angemessen, schult rollenbezogen und bietet einen schnellen Ausnahmeprozess. ^{[S-085, S-088, S-033]}

Regeln sollten konkrete Beispiele enthalten: Was darf in welches Werkzeug? Welche Daten müssen anonymisiert werden? Welche Ergebnisse benötigen Fachprüfung? Wie wird ein neuer Dienst beantragt? ^{[S-008, S-084]}

Kontrolle und Beschäftigtenrechte

Technische Erkennung kann selbst Verhalten und Leistung sichtbar machen. Deshalb sind Datenschutz, Zweckbindung, Verhältnismäßigkeit und Mitbestimmung zu prüfen. ^{[S-083, S-069, S-081]}

Eine Betriebsvereinbarung kann erlaubte Nutzung, Protokollierung, Auswertungsverbote, Zugriffsrechte, Löschfristen, Qualifizierung und Change-Prozess verbindlich regeln. ^{[S-069, S-070, S-073]}

Schatten-KI Technische Erkennung ohne sichere Alternative und klaren Antragsweg bekämpft Symptome, nicht die Ursache.

Human Oversight und Entscheidungsqualität

Was wirksame Aufsicht erfordert

Wirksame Aufsicht braucht Systemverständnis, Grenzenkenntnis, ausreichende Informationen, Zeit, Befugnis, dokumentierte Eingriffsmöglichkeiten und Schutz vor Nachteilen bei begründeter Abweichung. ^{[S-022, S-026, S-006]}

Die Organisation muss festlegen, wann geprüft, wann übersteuert, wann eskaliert und wann gestoppt wird. Für kritische Fälle sind Zweitprüfung oder fachliche Freigabe erforderlich. ^{[S-022, S-045]}

Automationsbias

Experimentelle Studien zeigen, dass Menschen fehlerhaften KI-Ratschlägen folgen können. Gleichzeitig kann die Wirkung von KI-Unterstützung zwischen Personen und Aufgaben stark variieren. ^{[S-092, S-094, S-095]}

Aufsicht darf deshalb nicht nur auf "Fachexpertise" vertrauen. Interface, Reihenfolge der Information, Begründungspflicht, unabhängige Erstbewertung, Konfidenzkommunikation und Stichproben können Verhalten beeinflussen. ^{[S-093, S-095]}

Messung der Aufsicht

Mögliche Kennzahlen sind Override-Rate, Fehlerentdeckung, Eskalationszeit, Anteil ungeprüfter Übernahmen, Ergebnisqualität, Beschwerden und Unterschiede zwischen Nutzergruppen. ^{[S-053, S-065]}

Keine Kennzahl ist isoliert interpretierbar. Eine Override-Rate von null kann perfekte KI oder blinde Übernahme bedeuten. ^{[S-094, S-053]}

Scheinaufsicht vermeiden Eine Person, die jede KI-Empfehlung unter Zeitdruck bestätigt, ist keine belastbare Human-Oversight-Kontrolle.

KI-Kompetenz, Schulung und Kultur

Rollenbezogene Kompetenz

Art. 4 AI Act verlangt Maßnahmen unter Berücksichtigung von Wissen, Erfahrung, Ausbildung, Einsatzkontext und betroffenen Personen. Ein Standardkurs für alle genügt daher nicht zwingend. ^{[S-006, S-001]}

Basisnutzer benötigen Daten-, Sicherheits- und Prüfregeln. Entscheider benötigen Risikobewertung und Freigabekompetenz. Entwickler benötigen sichere Entwicklung, Evaluation und Dokumentation. Aufsichtspersonen benötigen Eingriffs- und Eskalationskompetenz. ^{[S-008, S-059, S-026]}

Kompetenznachweis

Nachweise können Schulungsinhalte, Teilnahme, Tests, Praxisübungen, Rollenfreigaben und Wiederholungsintervalle umfassen. Ein Zertifikat allein beweist keine praktische Kompetenz. ^{[S-006, S-033]}

Kompetenz muss bei neuen Modellen, Aufgaben, Risiken und Rechtsänderungen aktualisiert werden. ^{[S-033, S-054]}

Lernkultur

Eine lernende Governance fördert frühe Meldungen von Fehlern und Beinahe-Vorfällen. Beschäftigte dürfen nicht erwarten, dass jede Meldung automatisch sanktioniert wird; sonst verschwinden Risiken aus der Sichtbarkeit. ^{[S-033, S-065]}

Gleichzeitig braucht die Organisation klare Grenzen für vorsätzliche Umgehung oder unzulässige Datenverarbeitung. ^{[S-083, S-084]}

Monitoring, Kennzahlen und Vorfälle

Betriebsmonitoring

Monitoring umfasst technische Verfügbarkeit, Qualität, Drift, Datenänderungen, Sicherheitsereignisse, Nutzerverhalten im zulässigen Rahmen, Beschwerden, Override-Verhalten, Kosten und Nutzen. ^{[S-032, S-053, S-033]}

Schwellenwerte müssen Aktionen auslösen: vertiefte Prüfung, Rollback, Einschränkung, Re-Training, Anbietereskalation oder Abschaltung. ^{[S-022, S-038]}

Vorfallklassifizierung

Vorfälle können falsche Ausgaben, Datenoffenlegung, Diskriminierung, Sicherheitsangriff, unberechtigte Aktion, Ausfall, Rechtsverstoß oder Kontrollversagen sein. Ein einheitlicher Intake verhindert, dass Fachbereiche nur technische Störungen melden. ^{[S-056, S-060, S-083]}

Der Incident-Prozess ordnet Schweregrad, Sofortmaßnahmen, Beweissicherung, interne Eskalation, externe Meldepflichten, Ursachenanalyse und Korrekturmaßnahmen zu. ^{[S-033, S-088, S-083]}

Management Review

Die Geschäftsleitung sollte periodisch mindestens Inventarentwicklung, hohe Risiken, Ausnahmen, Vorfälle, überfällige Maßnahmen, Lieferantenrisiken, Kompetenzstand, Auditbefunde sowie Nutzen und Kosten bewerten. ^{[S-033, S-065, S-077]}

Management Review ist eine Entscheidungssitzung, kein reines Reporting. Beschlüsse, Ressourcen und Fristen werden dokumentiert. ^[S-033]

KI-Sicherheit und Missbrauchsresistenz

Mehrschichtige Sicherheit

ENISA trennt grundlegende Cybersecurity, KI-spezifische Sicherheit und sektorale Maßnahmen. Ohne Identitätsmanagement, Patchen, Segmentierung und sichere Entwicklung bleiben KI-spezifische Guardrails wirkungslos. ^{[S-087, S-088]}

NIST SP 800-218A ergänzt sichere Softwareentwicklung um Praktiken für generative Modelle und Dual-Use Foundation Models. ^[S-059]

Angriffsflächen

Relevante Angriffe umfassen Datenvergiftung, Evasion, Modell- und Datenextraktion, direkte und indirekte Prompt Injection, unsichere Ausgabeweiterverarbeitung, Supply-Chain-Angriffe und übermäßige Agentenrechte. ^{[S-060, S-091]}

Das Risiko wächst, wenn das Modell vertrauliche Daten sieht oder selbst Aktionen ausführen kann. Deshalb sind Berechtigungen, Kontexttrennung, Eingabe-/Ausgabekontrollen und Transaktionsfreigaben zentral. ^{[S-056, S-085]}

Red Teaming und Tests

Tests müssen den realen Systemkontext abbilden: Daten, Sprachen, Nutzerrollen, Tools und Fehlanreize. Ein allgemeiner Modellbenchmark prüft keine konkrete Berechtigungslogik. ^{[S-059, S-053]}

Red Teaming ergänzt, aber ersetzt nicht sichere Architektur und kontinuierliches Monitoring. ^{[S-088, S-090]}

Interne Kontrolle, Audit und Assurance

Kontrolltypen

Präventive Kontrollen verhindern riskante Nutzung, etwa Freigaben, Datenfilter und Least Privilege. Detektive Kontrollen erkennen Abweichungen, etwa Monitoring und Stichproben. Reaktive Kontrollen begrenzen Folgen, etwa Rollback, Kill Switch und Incident Response. ^{[S-065, S-088]}

Jede Kontrolle benötigt Ziel, Eigentümer, Frequenz, Evidenz, Testmethode und bekannte Grenzen. ^{[S-033, S-052]}

Kontrolltest

Design Effectiveness fragt, ob die Kontrolle das Risiko grundsätzlich adressiert. Operating Effectiveness fragt, ob sie im Zeitraum tatsächlich und nachweisbar funktioniert hat. ^{[S-065, S-064]}

Ein jährlicher Richtlinienreview testet keine technischen Berechtigungen. Umgekehrt beweist ein Penetrationstest nicht, dass Freigaben und Kompetenz funktionieren. ^{[S-052, S-059]}

Assurance-Landkarte

Assurance kann aus Managementkontrollen, Compliance-Monitoring, Datenschutzprüfung, Informationssicherheitsaudit, Lieferantennachweisen, externer Zertifizierung und Interner Revision bestehen. ^{[S-064, S-035]}

Die Landkarte zeigt, welche Risiken geprüft werden, wie unabhängig die Prüfung ist und wo Blindstellen oder Doppelprüfungen bestehen. ^{[S-064, S-065]}

Betriebliche Mitbestimmung und Beschäftigtenperspektive

Frühe Information und Beratung

§ 90 BetrVG verlangt rechtzeitige Unterrichtung und Beratung über Arbeitsverfahren und Arbeitsabläufe einschließlich KI. Governance sollte den Betriebsrat daher bereits im Intake identifizieren, nicht erst kurz vor dem Go-live. ^[S-070]

Frühe Beteiligung kann technische und organisatorische Gestaltung verbessern, etwa bei Protokollierung, Zugriff, Qualifizierung, Human Oversight und Beschwerdewegen. ^{[S-070, S-073]}

Mitbestimmung bei Überwachung

§ 87 Abs. 1 Nr. 6 BetrVG ist zu prüfen, wenn eine technische Einrichtung Verhalten oder Leistung überwachen kann. Entscheidend ist die konkrete Funktion und objektive Eignung, nicht allein die Bezeichnung "Assistenzsystem". ^[S-069]

Monitoring zur Schatten-KI-Erkennung, Nutzungsanalysen, Produktivitäts-Scoring und Kommunikationsanalyse können Beteiligungsrechte auslösen. ^{[S-069, S-081]}

Auswahl, Qualifizierung und Arbeitsgestaltung

Bei KI-gestützten Auswahlrichtlinien verweist § 95 Abs. 2a ausdrücklich auf die Mitbestimmungsregeln. §§ 96 bis 98 betreffen Berufsbildungsbedarf und betriebliche Bildungsmaßnahmen. ^{[S-072, S-073, S-074, S-075]}

§ 91 kann bei besonderen Belastungen und Abweichung von gesicherten arbeitswissenschaftlichen Erkenntnissen relevant werden. Die Gefährdungsbeurteilung nach ArbSchG ergänzt die Perspektive. ^{[S-071, S-080]}

Hamburger ChatGPT-Beschluss

Das Arbeitsgericht Hamburg verneinte in einem Eilverfahren für eine enge Konstellation freiwilliger Nutzung öffentlich zugänglicher Dienste über private Konten ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6. Die Entscheidung ist keine generelle Freistellung von KI-Nutzung. ^{[S-082, S-069]}

Unternehmenskonten, zentrale Administrationsfunktionen, Protokollierung, Integration in Arbeitsabläufe oder Leistungsauswertung können rechtlich anders zu beurteilen sein. Informations- und Beratungsrechte sind separat zu prüfen. ^{[S-070, S-068]}

Keine Pauschale Beteiligungs- und Mitbestimmungsrechte sind nach Funktion, Daten, Planung und Arbeitswirkung getrennt zu prüfen.

Proportionale Governance für KMU

Mindestmodell

Ein KMU kann mit sechs Kernartefakten beginnen: KI-Inventar, kurze Nutzungsrichtlinie, Datenklassenregeln, risikobasierter Intake, Freigabeprotokoll und Incident-/Change-Log. ^{[S-033, S-088]}

Dazu kommen benannte Verantwortliche: Geschäftsführung als accountable, ein operativer Koordinator, Prozesseigner sowie Datenschutz/Sicherheit und Betriebsrat, soweit einschlägig. ^{[S-064, S-070]}

Drei Ausbaustufen

Stufe A steuert Assistenzwerkzeuge mit niedriger Wirkung. Stufe B ergänzt formale Risikoprüfung, Lieferantenkontrolle und Monitoring. Stufe C umfasst unabhängige Assurance, quantitative Limits, automatisierte Kontrollen und gegebenenfalls Zertifizierung. ^{[S-033, S-053]}

Der Übergang richtet sich nach Risiko und Anzahl der Systeme, nicht allein nach Mitarbeiterzahl. ^{[S-036, S-034]}

Was nicht proportional gekürzt werden darf

Rechtsgrundlage, verbotene Praxis, wirksame Aufsicht bei erheblicher Wirkung, Schutz sensibler Daten und elementare Sicherheitsmaßnahmen dürfen nicht aus Bequemlichkeit entfallen. ^{[S-001, S-083, S-088]}

Proportionalität reduziert Formalismus, nicht Verantwortung. ^{[S-033, S-077, S-078]}

Organisationsmodelle und RACI

Drei Organisationsmodelle

RACI für Kernprozesse

• Beteiligung je Rechtslage und Ausgestaltung. Bei schweren Vorfällen bzw. definierten Schwellen. * Interne Revision nur für unabhängige Prüfungen, nicht als operative Kontrollownerin.

Freigabestufen

Achtzehn Unternehmensszenarien

Die Bewertungen sind Orientierung für den Standardfall. Eine konkrete Rechts- und Risikobewertung hängt von Daten, Konfiguration, Nutzergruppen, Vertrag, Autonomie und tatsächlicher Wirkung ab.

Öffentlicher KI-Chatbot für Textentwürfe

Enterprise-KI-Assistent

RAG-Chatbot für internes Wissen

Kundenservice-Chatbot

Bewerbervorauswahl

Leistungs- und Verhaltensanalyse

Meeting-Transkription

Vertriebs-Lead-Scoring

Dynamische Preisempfehlung

Code-Assistent

Agent mit E-Mail und CRM

Rechnungsprüfung

Produktionswartung

Qualitätsprüfung per Computer Vision

Marketing-Content

Eigene Modellanpassung

Lokales Open-Weight-Modell

Geschäftsleitungs-Dashboard

Szenarienvergleich

Umsetzungsfahrplan

36 Schritte von der Schattennutzung zum belastbaren AIMS

Die ersten 90 Tage

Reifegradmodell

Governance-Artefakte und Kontrollbibliothek

Mindestartefakte

Kontrollbibliothek

KPI- und KRI-Katalog

Mythenprüfung

Offene und umstrittene Fragen

Buchrelevante Faktenkarten

Faktenkarte F-001

Faktenkarte F-002

Faktenkarte F-003

Faktenkarte F-004

Faktenkarte F-005

Faktenkarte F-006

Faktenkarte F-007

Faktenkarte F-008

Faktenkarte F-009

Faktenkarte F-010

Faktenkarte F-011

Faktenkarte F-012

Faktenkarte F-013

Faktenkarte F-014

Faktenkarte F-015

Faktenkarte F-016

Faktenkarte F-017

Faktenkarte F-018

Faktenkarte F-019

Faktenkarte F-020

Faktenkarte F-021

Faktenkarte F-022

Faktenkarte F-023

Faktenkarte F-024

Faktenkarte F-025

Faktenkarte F-026

Faktenkarte F-027

Faktenkarte F-028

Faktenkarte F-029

Faktenkarte F-030

Faktenkarte F-031

Faktenkarte F-032

Faktenkarte F-033

Faktenkarte F-034

Faktenkarte F-035

Faktenkarte F-036

Faktenkarte F-037

Faktenkarte F-038

Faktenkarte F-039

Faktenkarte F-040

Faktenkarte F-041

Faktenkarte F-042

Faktenkarte F-043

Faktenkarte F-044

Faktenkarte F-045

Faktenkarte F-046

Faktenkarte F-047

Faktenkarte F-048

Faktenkarte F-049

Faktenkarte F-050

Kurze belegbare Originalaussagen

Die Zitate bleiben bewusst kurz. Übersetzungen und Einordnungen sind redaktionell; vor Drucklegung ist die Originalfundstelle erneut zu prüfen.

Glossar

AIMS

Artificial Intelligence Management System; Managementsystem für Ziele, Richtlinien, Prozesse und Kontrollen rund um KI.

AI Governance

Leitungs-, Entscheidungs- und Kontrollsystem für Entwicklung, Beschaffung, Einsatz und Stilllegung von KI.

AI Inventory

Verzeichnis konkreter KI-Systeme, Modelle, Anwendungsfälle, Integrationen, Eigentümer und Status.

AI Literacy

Rollenbezogene Kompetenz, KI sachgerecht und risikobewusst zu entwickeln, einzusetzen oder zu beaufsichtigen.

AI RMF

NIST Artificial Intelligence Risk Management Framework.

AI System

Maschinenbasiertes System nach der jeweils einschlägigen Definition; Modell und System sind nicht identisch.

Algorithmic Impact Assessment

Strukturierte Prüfung möglicher Wirkungen eines algorithmischen bzw. KI-Systems.

Automation Bias

Tendenz, automatisierten Empfehlungen zu stark zu folgen.

Change Control

Geregelte Bewertung, Freigabe, Umsetzung und Nachverfolgung von Änderungen.

Chief AI Officer

Frei gestaltbare Führungsrolle; keine allgemeine gesetzliche Pflichtbezeichnung.

Conformity Assessment

Verfahren zur Feststellung, ob vorgegebene Anforderungen erfüllt sind.

Control Owner

Person oder Rolle, die für Gestaltung, Betrieb und Nachweis einer Kontrolle verantwortlich ist.

Corrective Action

Maßnahme zur Beseitigung einer festgestellten Ursache oder Nichtkonformität.

Data Drift

Veränderung der Eingabedatenverteilung gegenüber Entwicklung oder Freigabe.

Deployer

AI-Act-Rolle einer natürlichen oder juristischen Person, die ein KI-System in eigener Verantwortung verwendet.

DSFA

Datenschutz-Folgenabschätzung nach Art. 35 DSGVO.

Fallback

Vorgesehene Alternative, wenn KI ausfällt, gesperrt oder unsicher ist.

FRIA

Fundamental Rights Impact Assessment nach Art. 27 AI Act für bestimmte Betreiber von Hochrisiko-KI.

GPAI

General-Purpose AI Model; Modell mit allgemeiner Verwendbarkeit nach dem AI Act.

Guardrail

Technische oder organisatorische Begrenzung unerwünschten Verhaltens.

Human-in-command

Gestaltungsebene, auf der Menschen Ziele, Grenzen und Einsatzbedingungen festlegen.

Human-in-the-loop

Menschliche Beteiligung innerhalb eines automatisierten Entscheidungs- oder Ausführungsablaufs.

Human-on-the-loop

Menschliche Überwachung eines laufenden automatisierten Prozesses mit Eingriffsmöglichkeit.

Human Oversight

Gesamtheit wirksamer menschlicher Aufsichts- und Eingriffsmöglichkeiten.

Impact Assessment

Systematische Ermittlung und Bewertung möglicher Auswirkungen.

Incident

Ereignis, das Sicherheit, Rechte, Qualität, Betrieb oder Compliance beeinträchtigt oder beeinträchtigen kann.

Inference

Anwendung eines trainierten Modells auf Eingaben zur Erzeugung von Ausgaben.

Internal Audit

Unabhängige Prüfungs- und Beratungsfunktion innerhalb der Governance.

Internal Control

Prozesse und Kontrollen zur angemessenen Erreichung von Betriebs-, Berichts- und Compliance-Zielen.

Kill Switch

Technischer oder organisatorischer Mechanismus zum Stoppen bzw. Sperren eines Systems.

KPI

Key Performance Indicator; Leistungskennzahl.

KRI

Key Risk Indicator; Früh- oder Zustandskennzahl für Risiken.

Least Privilege

Prinzip, nur die minimal erforderlichen Zugriffsrechte zu vergeben.

Lifecycle

Phasen von Planung, Entwicklung/Beschaffung, Test, Einsatz, Monitoring, Änderung und Stilllegung.

Material Change

Änderung, die Zweck, Leistung, Risiko, Rolle oder regulatorischen Status wesentlich beeinflusst.

Model Card

Dokumentation zentraler Modelleigenschaften, Grenzen und Evaluierungen.

Model Drift

Veränderung des Modellverhaltens oder seiner Leistung im Zeitablauf.

Model Risk

Risiko aus Fehlern, Annahmen, Grenzen, Fehlanwendung oder Betrieb eines Modells.

Override

Bewusste Abweichung von oder Übersteuerung einer KI-Ausgabe.

PDCA

Plan-Do-Check-Act; Zyklus fortlaufender Verbesserung.

Post-market Monitoring

Planmäßige Beobachtung eines Systems nach Bereitstellung bzw. Einsatz.

Provider

AI-Act-Rolle desjenigen, der ein KI-System oder GPAI-Modell entwickelt bzw. entwickeln lässt und bereitstellt.

RACI

Zuordnung von Responsible, Accountable, Consulted und Informed.

Residual Risk

Risiko, das nach Kontrollen verbleibt.

Risk Acceptance

Dokumentierte Entscheidung, ein verbleibendes Risiko zu tragen.

Risk Appetite

Grundsätzliche Risikobereitschaft einer Organisation.

Risk Owner

Rolle, die für Überwachung und Behandlung eines Risikos verantwortlich ist.

Shadow AI

Nicht freigegebene oder nicht inventarisierte KI-Nutzung innerhalb der Organisation.

System Card

Dokumentation eines konkreten KI-Systems einschließlich Kontext, Komponenten und Betrieb.

Three Lines Model

Rollenmodell für Management, Risiko-/Compliance-Funktionen und unabhängige Interne Revision.

Threat Modelling

Strukturierte Identifikation potenzieller Angreifer, Angriffswege, Auswirkungen und Gegenmaßnahmen.

Validation

Nachweis, dass ein System im vorgesehenen Nutzungskontext die beabsichtigten Zwecke erfüllt.

Verification

Nachweis, dass spezifizierte Anforderungen korrekt umgesetzt wurden.

Beleg- und Quellenmatrix

Vollständiges Quellenregister

EU AI Act und Umsetzung

S-001 | Europäische Union Konsolidierte Fassung der Verordnung (EU) 2024/1689, Stand 27.07.2026 Konsolidierter Rechtstext | 27.07.2026 | EU/EWR | Primärquelle | Geltendes Recht konsolidiert Relevanz: Aktueller Text nach Inkrafttreten des AI Omnibus. Fundstelle: Gesamtdokument URL: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:02024R1689-20260727

S-002 | Europäische Union Verordnung (EU) 2026/1744 - Digital Omnibus on AI Änderungsverordnung | 08.07.2026; ABl. 24.07.2026 | EU/EWR | Primärquelle | Geltendes Recht seit 27.07.2026 Relevanz: Ändert Fristen, Art. 4, Aufsicht, Sandboxes, Transparenz-Übergang und weitere Vorschriften. Fundstelle: Gesamtdokument URL: https://eur-lex.europa.eu/eli/reg/2026/1744/oj/eng

S-003 | Europäische Kommission / AI Act Service Desk Timeline for the Implementation of the EU AI Act Offizielle Umsetzungsübersicht | Stand 07.08.2026 | EU | Offizielle Quelle | Aktuelle Übersicht Relevanz: Verbindliche Fristen in praktischer Chronologie nach Omnibus. Fundstelle: Timeline URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/timeline/timeline-implementation-eu-ai-act

S-004 | Europäische Kommission Guidelines on the definition of an artificial intelligence system Leitlinien | 06.02.2025 | EU | Offizielle Behördenposition | Nicht bindend Relevanz: Praktische Auslegung der Definition des KI-Systems. Fundstelle: Leitlinien URL: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application

S-005 | Europäische Kommission Guidelines on prohibited artificial intelligence practices Leitlinien | 04.02.2025 | EU | Offizielle Behördenposition | Nicht bindend Relevanz: Auslegung von Art. 5 und Beispielen. Fundstelle: Leitlinien URL: https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act

S-006 | Europäische Kommission AI Literacy - Questions & Answers FAQ | 27.07.2026 | EU | Offizielle Behördenposition | Aktualisiert nach Omnibus Relevanz: Aktuelle Auslegung des geänderten Art. 4. Fundstelle: Gesamtdokument URL: https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers

S-007 | Europäische Kommission AI talent, skills and literacy Behördenübersicht | 27.07.2026 | EU | Offizielle Quelle | Aktuell Relevanz: Umsetzungshilfen und Repository zu KI-Kompetenz. Fundstelle: Website URL: https://digital-strategy.ec.europa.eu/en/policies/ai-talent-skills-and-literacy

S-008 | Europäische Kommission Living repository of AI literacy practices Praxisrepository | Stand 07.08.2026 | EU | Offizielle Quelle | Praxisbeispiele, keine Vermutung der Konformität Relevanz: Beispiele für Art.-4-Maßnahmen. Fundstelle: Website URL: https://digital-strategy.ec.europa.eu/en/policies/repository-ai-literacy-practices

S-009 | Europäische Kommission Guidelines on transparency obligations for providers and deployers of AI systems Leitlinien | 20.07.2026 | EU | Offizielle Behördenposition | Finale Leitlinien Relevanz: Art. 50: Chatbots, Kennzeichnung, Deepfakes, Texte. Fundstelle: Gesamtdokument URL: https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems

S-010 | Europäische Kommission The General-Purpose AI Code of Practice Verhaltenskodex | 10.07.2025 | EU | Offizielle Umsetzungshilfe | Freiwillig Relevanz: Transparenz, Copyright, Safety & Security für GPAI. Fundstelle: Drei Kapitel URL: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai

S-011 | Europäische Kommission Guidelines for providers of general-purpose AI models Leitlinien | 18.07.2025; Portal 28.04.2026 | EU | Offizielle Behördenposition | Nicht bindend; durchsetzungsleitend Relevanz: Scope, Modifikationen, Melde- und Dokumentationspraxis. Fundstelle: Gesamtdokument URL: https://digital-strategy.ec.europa.eu/en/policies/guidelines-gpai-providers

S-012 | Europäische Kommission European AI Office Behördenübersicht | Stand 07.08.2026 | EU | Offizielle Quelle | Aktuell Relevanz: Rolle und Aufgaben des AI Office. Fundstelle: Website URL: https://digital-strategy.ec.europa.eu/en/policies/ai-office

S-013 | Europäische Kommission Governance and enforcement of the AI Act Behördenübersicht | 27.07.2026 | EU | Offizielle Quelle | Aktuell Relevanz: AI Office, nationale Behörden und Grundrechtsbehörden. Fundstelle: Website URL: https://digital-strategy.ec.europa.eu/en/policies/ai-act-governance-and-enforcement

S-014 | Europäische Kommission European Artificial Intelligence Board Behördenübersicht | 09.07.2026 | EU | Offizielle Quelle | Aktuell Relevanz: Aufgaben, Sitzungen und Standards-Untergruppen. Fundstelle: Website URL: https://digital-strategy.ec.europa.eu/en/policies/ai-board

S-015 | Europäische Kommission Standardisation of the AI Act Behördenübersicht | 03.08.2026 | EU | Offizielle Quelle | Aktuell Relevanz: Harmonisierte Standards und zehn Kernbereiche. Fundstelle: Website URL: https://digital-strategy.ec.europa.eu/en/policies/ai-act-standardisation

S-016 | Europäische Kommission Understanding the standardisation of the AI Act FAQ | 10.03.2026 | EU | Offizielle Quelle | Aktuell Relevanz: Presumption of conformity und Standardisierungsprozess. Fundstelle: Gesamtdokument URL: https://digital-strategy.ec.europa.eu/en/faqs/understanding-standardisation-ai-act

S-017 | Europäische Kommission / AI Board Harmonised Standards for High-Risk AI Systems under the AI Act: Progress and Availability AI-Board-Bericht | 09.07.2026 | EU | Offizielle Quelle | Fortschrittsbericht Relevanz: Aktueller Stand von CEN/CENELEC JTC 21. Fundstelle: Dokumentlink auf AI-Board-Seite URL: https://digital-strategy.ec.europa.eu/en/policies/ai-board

S-018 | Europäische Kommission / AI Act Service Desk Article 2: Scope Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Explorer; Digital-Omnibus-Hinweis Relevanz: Territorialer/sachlicher Scope und Ausnahmen. Fundstelle: Art. 2 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-2

S-019 | Europäische Kommission / AI Act Service Desk Article 3: Definitions Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Aktuell Relevanz: Provider, deployer, importer, distributor, intended purpose, GPAI. Fundstelle: Art. 3 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-3

S-020 | Europäische Kommission / AI Act Service Desk Article 6: Classification rules for high-risk AI systems Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Explorer; Omnibus-Hinweis Relevanz: Annex-I/Annex-III-Logik und Ausnahmen. Fundstelle: Art. 6 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-6

S-021 | Europäische Kommission / AI Act Service Desk Article 8: Compliance with high-risk requirements Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Systematische Anwendung von Art. 9-15. Fundstelle: Art. 8 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-8

S-022 | Europäische Kommission / AI Act Service Desk Article 14: Human oversight Offizielle artikelbezogene Fassung | Stand 07.08.2026 | EU | Offizielle Quelle | Geltendes Recht erläutert Relevanz: Anforderungen an wirksame menschliche Aufsicht bei Hochrisiko-KI. Fundstelle: Art. 14 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14

S-023 | Europäische Kommission / AI Act Service Desk Article 15: Accuracy, robustness and cybersecurity Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Technische Kernanforderungen für High-Risk. Fundstelle: Art. 15 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-15

S-024 | Europäische Kommission / AI Act Service Desk Article 16: Obligations of providers of high-risk AI systems Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Provider-Pflichten. Fundstelle: Art. 16 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-16

S-025 | Europäische Kommission / AI Act Service Desk Article 25: Responsibilities along the AI value chain Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Rollenwechsel bei Rebranding, substantial modification, Zweckänderung. Fundstelle: Art. 25 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-25

S-026 | Europäische Kommission / AI Act Service Desk Article 26: Obligations of deployers of high-risk AI systems Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Anwenderpflichten: Use instructions, monitoring, human oversight etc. Fundstelle: Art. 26 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-26

S-027 | Europäische Kommission / AI Act Service Desk Article 27: Fundamental rights impact assessment Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: FRIA für bestimmte Deployers. Fundstelle: Art. 27 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-27

S-028 | Europäische Kommission / AI Act Service Desk Article 40: Harmonised standards and standardisation deliverables Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Presumption of conformity via harmonisierte Standards. Fundstelle: Art. 40 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-40

S-029 | Europäische Kommission / AI Act Service Desk Article 43: Conformity assessment Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext Relevanz: Konformitätsbewertung je High-Risk-Konstellation. Fundstelle: Art. 43 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-43

S-030 | Europäische Kommission / AI Act Service Desk Article 49: Registration Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext; Omnibus beibehaltene Registrierung Relevanz: EU-Datenbank und Exemption-Dokumentation. Fundstelle: Art. 49 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-49

S-031 | Europäische Kommission / AI Act Service Desk Article 50: Transparency obligations Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext plus 2026-Leitlinien Relevanz: Transparenzpflichten für bestimmte Systeme und Inhalte. Fundstelle: Art. 50 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50

S-032 | Europäische Kommission / AI Act Service Desk Article 72: Post-market monitoring Rechtstext-Explorer | Stand 07.08.2026 | EU | Offizielle Quelle | Rechtstext; durch Omnibus vereinfacht Relevanz: Post-market monitoring high-risk. Fundstelle: Art. 72 URL: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-72

ISO/IEC-Standards

S-033 | ISO ISO/IEC 42001:2023 - Information technology - Artificial intelligence - Management system International Standard | 18.12.2023 | International | Primärquelle Standard | Veröffentlicht; freiwilliger Managementsystemstandard Relevanz: Anforderungen für Aufbau, Betrieb, Erhaltung und fortlaufende Verbesserung eines AIMS. Fundstelle: Überblick, Status, PDCA URL: https://www.iso.org/standard/42001

S-034 | ISO ISO/IEC 42005:2025 - AI system impact assessment International Standard | 28.05.2025 | International | Primärquelle Standard | Veröffentlicht; freiwillige Leitlinie Relevanz: Strukturierte Wirkungsprüfung über den KI-Lebenszyklus. Fundstelle: Überblick und Lebenszyklus URL: https://www.iso.org/standard/42005

S-035 | ISO ISO/IEC 42006:2025 - Requirements for bodies providing audit and certification of AIMS International Standard | 07.2025 | International | Primärquelle Standard | Veröffentlicht Relevanz: Zusatzanforderungen für Audit- und Zertifizierungsstellen für ISO/IEC 42001. Fundstelle: Überblick und Anwendungsbereich URL: https://www.iso.org/standard/42006

S-036 | ISO ISO/IEC 23894:2023 - Artificial intelligence - Guidance on risk management International Standard | 06.02.2023 | International | Primärquelle Standard | Veröffentlicht; freiwillige Leitlinie Relevanz: KI-spezifische Einbettung des Risikomanagements in Organisation und Lebenszyklus. Fundstelle: Abstract und Status URL: https://www.iso.org/standard/77304.html

S-037 | ISO ISO/IEC 38507:2022 - Governance implications of the use of artificial intelligence by organizations International Standard | 2022 | International | Primärquelle Standard | Veröffentlicht; freiwillige Governance-Leitlinie Relevanz: Leitungs- und Aufsichtsperspektive auf den KI-Einsatz. Fundstelle: Gesamtdokument/ISO-Katalog URL: https://www.iso.org/standard/56641.html

S-038 | ISO ISO/IEC 5338:2023 - AI system life cycle processes International Standard | 2023 | International | Primärquelle Standard | Veröffentlicht Relevanz: Lebenszyklusprozesse für KI-Systeme. Fundstelle: Gesamtdokument/ISO-Katalog URL: https://www.iso.org/standard/81118.html

S-039 | ISO ISO/IEC 22989:2022 - Artificial intelligence concepts and terminology International Standard | 2022 | International | Primärquelle Standard | Veröffentlicht Relevanz: Begriffe und Konzepte für ein gemeinsames Governance-Vokabular. Fundstelle: Gesamtdokument/ISO-Katalog URL: https://www.iso.org/standard/74296.html

S-040 | ISO ISO/IEC 23053:2022 - Framework for AI systems using machine learning International Standard | 2022 | International | Primärquelle Standard | Veröffentlicht Relevanz: Referenzrahmen für ML-basierte KI-Systeme und Komponenten. Fundstelle: Gesamtdokument/ISO-Katalog URL: https://www.iso.org/standard/74438.html

S-041 | ISO/IEC JTC 1/SC 42 ISO/IEC 5259 series - Data quality for analytics and machine learning Normenreihe | 2024-2026 | International | Primärquelle Standardkatalog | Teile 1-6 veröffentlicht Relevanz: Datenqualitätsbegriffe, Messgrößen, Management, Prozess- und Governance-Rahmen. Fundstelle: Katalogeinträge ISO/IEC 5259-1 bis -6 URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-042 | ISO/IEC JTC 1/SC 42 ISO/IEC 25059:2023 - Quality model for AI systems International Standard | 2023 | International | Primärquelle Standardkatalog | Veröffentlicht; Revision in Arbeit Relevanz: Qualitätsmerkmale für KI-Systeme. Fundstelle: Katalogeintrag URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-043 | ISO/IEC JTC 1/SC 42 ISO/IEC TR 24027:2021 - Bias in AI systems and AI aided decision making Technical Report | 2021 | International | Primärquelle Standardkatalog | Veröffentlicht Relevanz: Bias-Typen und Betrachtungspunkte für Governance und Prüfungen. Fundstelle: Katalogeintrag URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-044 | ISO/IEC JTC 1/SC 42 ISO/IEC TR 24028:2020 - Overview of trustworthiness in artificial intelligence Technical Report | 2020 | International | Primärquelle Standardkatalog | Veröffentlicht Relevanz: Überblick über Vertrauenswürdigkeitsmerkmale. Fundstelle: Katalogeintrag URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-045 | ISO/IEC JTC 1/SC 42 ISO/IEC TS 8200:2024 - Controllability of automated AI systems Technical Specification | 2024 | International | Primärquelle Standardkatalog | Veröffentlicht Relevanz: Kontrollierbarkeit automatisierter KI-Systeme. Fundstelle: Katalogeintrag URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-046 | ISO/IEC JTC 1/SC 42 ISO/IEC 12792:2025 - Transparency taxonomy of AI systems International Standard | 2025 | International | Primärquelle Standardkatalog | Veröffentlicht Relevanz: Taxonomie für Transparenzanforderungen und -artefakte. Fundstelle: Katalogeintrag URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-047 | ISO/IEC JTC 1/SC 42 ISO/IEC FDIS 42105 - Guidance for human oversight of AI systems Standardentwurf | Stand 07.08.2026 | International | Primärquelle Standardkatalog | FDIS; noch nicht final veröffentlicht Relevanz: Künftige Leitlinie zu Human Oversight; Status nicht mit geltendem Standard verwechseln. Fundstelle: Katalogeintrag URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-048 | ISO/IEC JTC 1/SC 42 Catalogue of standards and projects under responsibility of SC 42 Artificial Intelligence Offizieller Standardkatalog | Stand 07.08.2026 | International | Primärquelle Standardkatalog | Aktuell Relevanz: Statuskontrolle veröffentlichter und in Entwicklung befindlicher KI-Standards. Fundstelle: Gesamtkatalog URL: https://www.iso.org/committee/6794475/x/catalogue/p/1/u/0/w/0/d/0%7D

S-049 | ISO ISO/IEC 27001:2022 - Information security management systems - Requirements International Standard | 2022 | International | Primärquelle Standard | Veröffentlicht Relevanz: Informationssicherheits-Managementsystem als Anschlussrahmen für KI-Governance. Fundstelle: Überblick URL: https://www.iso.org/standard/27001

S-050 | ISO ISO/IEC 27701 - Privacy information management systems International Standard | Stand 07.08.2026 | International | Primärquelle Standard | Veröffentlicht Relevanz: Datenschutz-Management als Schnittstelle zum AIMS. Fundstelle: Überblick URL: https://www.iso.org/standard/27701

S-051 | ISO ISO 31000:2018 - Risk management - Guidelines International Standard | 2018 | International | Primärquelle Standard | Veröffentlicht; freiwillige Leitlinie Relevanz: Allgemeiner Risikomanagementrahmen. Fundstelle: Überblick URL: https://www.iso.org/iso-31000-risk-management.html

S-052 | ISO ISO 19011:2018 - Guidelines for auditing management systems International Standard | 2018 | International | Primärquelle Standard | Veröffentlicht; Leitlinie Relevanz: Auditprinzipien und Auditprogramm für Managementsysteme. Fundstelle: Überblick URL: https://www.iso.org/standard/70017.html

NIST

S-053 | NIST Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1 Behördenframework | 26.01.2023 | USA/International | Offizielle Primärquelle | Freiwillig; Revision läuft Relevanz: Vier Funktionen Govern, Map, Measure, Manage und Vertrauenswürdigkeitsmerkmale. Fundstelle: Gesamtdokument, DOI 10.6028/NIST.AI.100-1 URL: https://nvlpubs.nist.gov/nistpubs/ai/nist.ai.100-1.pdf

S-054 | NIST AI Resource Center AI RMF Resources Behördenportal | Stand 07.08.2026 | USA/International | Offizielle Quelle | Aktuell; AI RMF 1.0 wird überarbeitet Relevanz: Aktueller Status, Framework, Playbook, Profile und Crosswalks. Fundstelle: Portal URL: https://airc.nist.gov/airmf-resources/

S-055 | NIST AI Resource Center AI RMF Playbook Umsetzungshilfe | Stand 07.08.2026 | USA/International | Offizielle Quelle | Freiwillig; kein vollständiger Prüfplan Relevanz: Vorgeschlagene Handlungen zu den RMF-Unterkategorien. Fundstelle: Portal URL: https://airc.nist.gov/airmf-resources/playbook/

S-056 | NIST AI RMF: Generative Artificial Intelligence Profile, NIST AI 600-1 Behördenprofil | 26.07.2024 | USA/International | Offizielle Primärquelle | Freiwillig Relevanz: Zwölf GenAI-Risikobereiche und mehr als 200 vorgeschlagene Maßnahmen. Fundstelle: Gesamtdokument URL: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

S-057 | NIST AI Resource Center AI RMF Crosswalk Documents Behördenportal | Stand 07.08.2026 | USA/International | Offizielle Quelle | Community-Ressourcen; Aufnahme ist keine NIST-Billigung Relevanz: Zuordnung des AI RMF zu anderen Rahmenwerken. Fundstelle: Portalhinweis URL: https://airc.nist.gov/airmf-resources/crosswalks/

S-058 | NIST AI Resource Center AI RMF Example Use Cases Behördenportal | Stand 07.08.2026 | USA/International | Offizielle Quelle | Praxisbeispiele; nicht normativ Relevanz: Beispiele zur operationalen Nutzung des Frameworks. Fundstelle: Portal URL: https://airc.nist.gov/airmf-resources/usecases/

S-059 | NIST SP 800-218A - Secure Software Development Practices for Generative AI and Dual-Use Foundation Models Special Publication | 26.07.2024 | USA/International | Offizielle Primärquelle | Final; freiwillig Relevanz: KI-spezifische Ergänzung des Secure Software Development Framework. Fundstelle: Gesamtdokument URL: https://csrc.nist.gov/pubs/sp/800/218/a/final

S-060 | NIST NIST AI 100-2e2025 - Adversarial Machine Learning: Taxonomy and Terminology of Attacks and Mitigations Behördenbericht | 24.03.2025 | USA/International | Offizielle Primärquelle | Final; freiwillige Orientierung Relevanz: Taxonomie u. a. für Evasion, Poisoning, Privacy-Angriffe und Prompt Injection. Fundstelle: Gesamtdokument URL: https://csrc.nist.gov/pubs/ai/100/2/e2025/final

S-061 | NIST NIST IR 8596 - Cybersecurity Framework Profile for Artificial Intelligence Entwurf Community Profile | 16.12.2025 | USA/International | Offizielle Quelle | Initial Preliminary Draft am Stichtag Relevanz: Verknüpfung von CSF 2.0 und KI-Cyberrisiken; Entwurfsstatus beachten. Fundstelle: Gesamtdokument URL: https://nvlpubs.nist.gov/nistpubs/ir/2025/NIST.IR.8596.iprd.pdf

OECD, UNESCO, Council of Europe, IIA und COSO

S-062 | OECD OECD AI Principles Intergovernmentale Prinzipien | 2019; aktualisiert Mai 2024 | International | Offizielle Quelle | Nicht bindend Relevanz: Menschenzentrierte Werte, Transparenz, Robustheit und Rechenschaft. Fundstelle: Gesamtdokument URL: https://oecd.ai/en/ai-principles

S-063 | UNESCO Recommendation on the Ethics of Artificial Intelligence UNESCO-Empfehlung | 23.11.2021 | International | Intergovernmentale Primärquelle | Nicht bindend Relevanz: Ethik- und Wirkungsrahmen für Staaten und Organisationen. Fundstelle: Gesamtdokument URL: https://unesdoc.unesco.org/ark:/48223/pf0000381137

S-064 | The Institute of Internal Auditors The Three Lines Model - Statement of Position Berufsstandard/Positionspapier | 08.07.2026 | International | Berufsständische Quelle | Aktualisierte Fassung 2026; nicht gesetzlich bindend Relevanz: Rollen von Leitungsorgan, Management, Risikofunktionen und unabhängiger Interner Revision. Fundstelle: Aktuelle Statements-Seite URL: https://www.theiia.org/en/resources/statements-of-position/

S-065 | COSO Achieving Effective Internal Control Over Generative AI Leitfaden | 23.02.2026 | International | Berufsständische Quelle | Nicht bindend Relevanz: Übertragung des Internal-Control-Integrated-Framework auf generative KI. Fundstelle: Gesamtdokument URL: https://www.coso.org/generative-ai

S-066 | Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law Völkerrechtlicher Vertrag | 17.05.2024 | International | Primärquelle | Unterzeichnungs-/Ratifikationsstatus je Staat prüfen Relevanz: Grundrechte-, Demokratie- und Rechtsstaatsrahmen für KI. Fundstelle: Konvention und Erläuterungen URL: https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence

Deutsches Gesellschafts-, Arbeits- und Beschäftigtendatenrecht

S-067 | Bundesministerium der Justiz Betriebsverfassungsgesetz - konsolidierte Fassung Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Gesamtsystem der Beteiligungs- und Mitbestimmungsrechte. Fundstelle: Gesamtdokument URL: https://www.gesetze-im-internet.de/betrvg/BetrVG.pdf

S-068 | Bundesministerium der Justiz BetrVG § 80 - Allgemeine Aufgaben Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Unterrichtung; KI-Sachverständiger gilt bei Beurteilung der Einführung/Anwendung als erforderlich. Fundstelle: § 80 Abs. 2 und 3 URL: https://www.gesetze-im-internet.de/betrvg/__80.html

S-069 | Bundesministerium der Justiz BetrVG § 87 - Mitbestimmungsrechte Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Mitbestimmung insbesondere bei technischen Überwachungseinrichtungen. Fundstelle: § 87 Abs. 1 Nr. 6 und 7 URL: https://www.gesetze-im-internet.de/betrvg/__87.html

S-070 | Bundesministerium der Justiz BetrVG § 90 - Unterrichtungs- und Beratungsrechte Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Rechtzeitige Unterrichtung und Beratung bei Arbeitsverfahren/-abläufen einschließlich KI. Fundstelle: § 90 URL: https://www.gesetze-im-internet.de/betrvg/__90.html

S-071 | Bundesministerium der Justiz BetrVG § 91 - Mitbestimmungsrecht bei menschengerechter Gestaltung Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Korrekturmaßnahmen bei besonderen Belastungen entgegen gesicherten arbeitswissenschaftlichen Erkenntnissen. Fundstelle: § 91 URL: https://www.gesetze-im-internet.de/betrvg/__91.html

S-072 | Bundesministerium der Justiz BetrVG § 95 - Auswahlrichtlinien Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Absätze 1 und 2 gelten ausdrücklich auch bei KI-Einsatz für Auswahlrichtlinien. Fundstelle: § 95 Abs. 2a URL: https://www.gesetze-im-internet.de/betrvg/__95.html

S-073 | Bundesministerium der Justiz BetrVG § 96 - Förderung der Berufsbildung Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Ermittlung und Beratung des Berufsbildungsbedarfs. Fundstelle: § 96 URL: https://www.gesetze-im-internet.de/betrvg/__96.html

S-074 | Bundesministerium der Justiz BetrVG § 97 - Einrichtungen und Maßnahmen der Berufsbildung Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Beratung und unter Umständen Mitbestimmung bei Qualifizierungsbedarf infolge geänderter Tätigkeiten. Fundstelle: § 97 URL: https://www.gesetze-im-internet.de/betrvg/__97.html

S-075 | Bundesministerium der Justiz BetrVG § 98 - Durchführung betrieblicher Bildungsmaßnahmen Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Mitbestimmung bei Durchführung betrieblicher Bildungsmaßnahmen. Fundstelle: § 98 URL: https://www.gesetze-im-internet.de/betrvg/__98.html

S-076 | Bundesministerium der Justiz AktG § 91 - Organisation; Risikofrüherkennungssystem Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Vorstandspflichten zur Organisation und Früherkennung bestandsgefährdender Entwicklungen. Fundstelle: § 91 URL: https://www.gesetze-im-internet.de/aktg/__91.html

S-077 | Bundesministerium der Justiz AktG § 93 - Sorgfaltspflicht und Verantwortlichkeit der Vorstandsmitglieder Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Sorgfalt, Business Judgment Rule, Verantwortlichkeit und Dokumentationsrelevanz. Fundstelle: § 93 URL: https://www.gesetze-im-internet.de/aktg/__93.html

S-078 | Bundesministerium der Justiz GmbHG § 43 - Haftung der Geschäftsführer Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Sorgfaltspflicht der Geschäftsführung. Fundstelle: § 43 URL: https://www.gesetze-im-internet.de/gmbhg/__43.html

S-079 | Bundesministerium der Justiz StaRUG § 1 - Krisenfrüherkennung und Krisenmanagement Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Überwachung bestandsgefährdender Entwicklungen und Gegenmaßnahmen. Fundstelle: § 1 URL: https://www.gesetze-im-internet.de/starug/__1.html

S-080 | Bundesministerium der Justiz ArbSchG § 5 - Beurteilung der Arbeitsbedingungen Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Gefährdungsbeurteilung einschließlich psychischer Belastungen. Fundstelle: § 5 URL: https://www.gesetze-im-internet.de/arbschg/__5.html

S-081 | Bundesministerium der Justiz BDSG § 26 - Datenverarbeitung für Zwecke des Beschäftigungsverhältnisses Gesetz | Stand 07.08.2026 | Deutschland | Primärquelle | Geltendes Recht Relevanz: Beschäftigtendaten bei KI-Einsatz und Monitoring. Fundstelle: § 26 URL: https://www.gesetze-im-internet.de/bdsg_2018/__26.html

Datenschutz, Sicherheit und Behördenleitlinien

S-082 | Arbeitsgericht Hamburg Beschluss 16.01.2024 - 24 BVGa 1/24 Gerichtsentscheidung | 16.01.2024 | Deutschland | Rechtsprechung | Erstinstanzliches Eilverfahren Relevanz: Enge Fallkonstellation zur freiwilligen Nutzung öffentlich zugänglicher ChatGPT-Dienste; keine pauschale Aussage zu Unternehmenskonten oder Monitoring. Fundstelle: 24 BVGa 1/24 URL: https://dejure.org/dienste/vernetzung/rechtsprechung?Gericht=ArbG%20Hamburg&Datum=16.01.2024&Aktenzeichen=24%20BVGa%201/24

S-083 | Europäische Union Verordnung (EU) 2016/679 - Datenschutz-Grundverordnung Verordnung | 27.04.2016 | EU/EWR | Primärquelle | Geltendes Recht Relevanz: Rechtmäßigkeit, Rechenschaft, Privacy by Design, Sicherheit, DSFA und Beschäftigtendaten-Schnittstellen. Fundstelle: Art. 5, 6, 22, 24, 25, 28, 32, 35 URL: https://eur-lex.europa.eu/eli/reg/2016/679/oj/deu

S-084 | Bundesamt für Sicherheit in der Informationstechnik Künstliche Intelligenz - Informationen und Empfehlungen Behördenportal | Stand 07.08.2026 | Deutschland | Offizielle Behördenquelle | Aktuell Relevanz: Sicherheitsinformationen, Kriterienkataloge und Veröffentlichungen für KI. Fundstelle: Portal URL: https://www.bsi.bund.de/DE/Themen/Unternehmen-und-Organisationen/Informationen-und-Empfehlungen/Kuenstliche-Intelligenz/kuenstliche-intelligenz_node.html

S-085 | Bundesamt für Sicherheit in der Informationstechnik Kriterienkatalog für KI-Modelle in der Bundesverwaltung Behördenleitfaden | 06.06.2025 | Deutschland | Offizielle Behördenquelle | Nicht bindend außerhalb des Adressatenkreises Relevanz: Prüfkriterien für externe, offene und proprietäre generative Modelle. Fundstelle: Gesamtdokument URL: https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/Kriterienkatalog_KI-Modelle_Bundesverwaltung.pdf?__blob=publicationFile&v=3

S-086 | Bundesamt für Sicherheit in der Informationstechnik QUAIDAL - Katalog für Maßnahmen und Metriken/Methoden Behördenleitfaden | 01.07.2025 | Deutschland | Offizielle Behördenquelle | Nicht bindend Relevanz: Qualitätsmaßnahmen und Messmethoden für KI. Fundstelle: Gesamtdokument URL: https://www.bsi.bund.de/SharedDocs/Downloads/DE/BSI/KI/QUAIDAL_C_Qualitaetsmassnahmen.pdf?__blob=publicationFile&v=4

S-087 | ENISA Multilayer Framework for Good Cybersecurity Practices for AI EU-Agenturbericht | 07.06.2023 | EU | Offizielle Agenturquelle | Nicht bindend Relevanz: Drei Ebenen: Cybersecurity-Basis, KI-spezifische und sektorale Maßnahmen. Fundstelle: Gesamtdokument URL: https://www.enisa.europa.eu/publications/multilayer-framework-for-good-cybersecurity-practices-for-ai

S-088 | ENISA Secure by Design and Default Playbook - A practical guide for SMEs EU-Agenturbericht | 30.07.2026 | EU | Offizielle Agenturquelle | Nicht bindend; aktuell Relevanz: Lebenszyklus, Threat Modelling und sichere Standardkonfigurationen. Fundstelle: Gesamtdokument URL: https://www.enisa.europa.eu/sites/default/files/2026-07/ENISA_Secure_By_Design_and_Default_Playbook_v1.pdf

S-089 | ENISA ENISA’s view on Cybersecurity in the Frontier AI Era EU-Agenturbericht | 07.07.2026 | EU | Offizielle Agenturquelle | Nicht bindend; aktuell Relevanz: Empfehlungen für Aufsicht, Anbieter und Verteidiger zu Frontier-AI-Cyberrisiken. Fundstelle: Gesamtdokument URL: https://www.enisa.europa.eu/publications/enisas-view-on-cybersecurity-in-the-frontier-ai-era

S-090 | UK NCSC et al. Guidelines for Secure AI System Development Gemeinsame Behördenleitlinie | 26.11.2023 | International | Offizielle Behördenquelle | Nicht bindend Relevanz: Secure design, development, deployment, operation and maintenance. Fundstelle: Gesamtdokument URL: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development

S-091 | OWASP OWASP Top 10 for LLM Applications 2025 Community-Sicherheitsleitfaden | 2025 | International | Fachcommunity | Nicht bindend Relevanz: Prompt Injection, Datenoffenlegung, Supply Chain, Excessive Agency und weitere LLM-Risiken. Fundstelle: Gesamtdokument URL: https://genai.owasp.org/llm-top-10/

Human-Oversight-Forschung und Shadow-AI-Anbieterbefunde

S-092 | Gaube et al. Do as AI say: susceptibility in deployment of clinical decision-aids Peer-reviewed study | 19.02.2021 | International | Wissenschaftliche Originalquelle | Peer-reviewed Relevanz: Experimentelle Evidenz, dass fehlerhafte KI-Ratschläge Entscheidungen von Ärztinnen und Ärzten beeinflussen können. Fundstelle: npj Digital Medicine 4, 31 URL: https://www.nature.com/articles/s41746-021-00385-9

S-093 | Buçinca, Malaya, Gajos To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-assisted Decision-making Peer-reviewed study | 2021 | International | Wissenschaftliche Originalquelle | Peer-reviewed Relevanz: Kognitive Eingriffe können Übervertrauen reduzieren, verursachen aber Zielkonflikte. Fundstelle: CHI 2021, DOI 10.1145/3411764.3445197 URL: https://dl.acm.org/doi/10.1145/3411764.3445197

S-094 | Yu et al. Heterogeneity and predictors of the effects of AI assistance on radiologists Peer-reviewed study | 2024 | International | Wissenschaftliche Originalquelle | Peer-reviewed Relevanz: Heterogene Effekte von KI-Unterstützung; menschliche Expertise allein garantiert keine Verbesserung. Fundstelle: Nature Medicine 2024 URL: https://www.nature.com/articles/s41591-024-02850-w

S-095 | Alon-Barkat, Busuioc Human-AI Interactions in Public Sector Decision Making: “Automation Bias” and “Selective Adherence” to Algorithmic Advice Peer-reviewed study | 2023 | International | Wissenschaftliche Originalquelle | Peer-reviewed Relevanz: Mechanismen von Automationsbias und selektiver Befolgung algorithmischer Empfehlungen. Fundstelle: Public Administration Review URL: https://onlinelibrary.wiley.com/doi/10.1111/puar.13629

S-096 | Microsoft / LinkedIn 2024 Work Trend Index Annual Report Anbieterbefragung | 08.05.2024 | International | Anbieterquelle | Marketing-/Befragungsdaten Relevanz: BYOAI- und Nutzungsangaben; nur als Anbieterbefund, nicht als amtliche Statistik. Fundstelle: Gesamtdokument URL: https://www.microsoft.com/en-us/worklab/work-trend-index/ai-at-work-is-here-now-comes-the-hard-part

S-097 | IBM / Ponemon Institute Cost of a Data Breach Report 2025 Anbieter-/Auftragsstudie | 2025 | International | Anbieterquelle | Marketing-/Befragungsdaten Relevanz: Shadow-AI- und Governance-Befunde; Methodik und Anbieterinteresse kennzeichnen. Fundstelle: Gesamtdokument URL: https://www.ibm.com/reports/data-breach

S-098 | Netskope Threat Labs Cloud and Threat Report: Generative AI 2025 Anbieter-Telemetriebericht | 2025 | International | Anbieterquelle | Telemetriedaten; nicht repräsentativ für alle Unternehmen Relevanz: Nutzungs- und Datenbewegungstrends bei GenAI-Anwendungen. Fundstelle: Gesamtdokument URL: https://www.netskope.com/netskope-threat-labs/cloud-threat-report/generative-ai

Schnell veraltende Informationen

Qualitätsbericht

Abschlussprüfung

• Recht, Standards, Frameworks, Forschung und Anbieterangaben sind sichtbar getrennt.

• Zentrale Aussagen sind durch Quellen-IDs mit vollständigem URL-Register belegt.

• Entwürfe werden nicht als veröffentlichte Standards dargestellt.

• Aus dem Hamburger Beschluss wird keine pauschale Freistellung von Mitbestimmung abgeleitet.

• Human Oversight wird als technisch-organisatorische Kontrolle und nicht als formales Etikett behandelt.

• ISO/IEC 42001, NIST AI RMF und AI Act werden nicht gleichgesetzt.

• Das Dossier enthält konkrete Artefakte, Kontrollen, Rollen, Praxisfälle und einen umsetzbaren Fahrplan.

Redaktionelle Schlussfolgerung Ein belastbares KI-Governance-System ist sichtbar an Entscheidungen und Nachweisen: Wer hat welchen Use Case warum freigegeben, welche Risiken wurden akzeptiert, welche Kontrollen funktionieren, und was passiert beim nächsten Modellupdate oder Vorfall?