KI SpotlightNewsKI in der Justiz: Fehler und Haftung, EU-Fristen erhöhen Druck
Gerichte setzen KI ein – und Unternehmen haften für Falschaussagen. Ab August 2026 gelten neue Transparenzpflichten, während Grundrechtsbedenken wachsen.
Mit KI erstellt◆ Fakten auf einen Blick
- Das Bundesverfassungsgericht hat mit Urteil vom 16. Februar 2023 entschieden, dass automatisierte Datenanalyse in die informationelle Selbstbestimmung eingreift und besondere Rechtfertigungsanforderungen stellt.
- Der EU AI Act (Verordnung (EU) 2024/1689) stuft KI-Systeme in der Justiz als Hochrisiko ein und verpflichtet öffentliche Stellen zu einer Grundrechte-Folgenabschätzung.
- Das OLG Hamm hat am 12. Mai 2026 entschieden, dass Unternehmen für Falschaussagen ihrer KI-Chatbots haften, da diese als Teil der Unternehmenskommunikation gelten.
- Das LG Kiel hat mit Urteil vom 29.02.2024 entschieden, dass Unternehmen für vollautomatisiert erzeugte KI-Falschauskünfte haften.
- Das Hessische Verwaltungsgericht hat in einem Urteil vom 24. Juni 2026 ChatGPT als Quelle genannt und dabei ein Regierungsdekret fälschlich dem Jahr 2025 statt 2026 zugeordnet.
- Baden-Württemberg entwickelt mit 'StruKI' eine KI-Assistenzanwendung, die Verfahrensakten zusammenfassen und strukturieren soll.
Gerichte nutzen KI und haften für Fehler
Gerichte setzen KI ein – etwa das Hessische Verwaltungsgericht, das in einem Urteil vom 24. Juni 2026 ChatGPT als Quelle nannte und ein Dekret falsch datierte. Solche Fehler entstehen durch KI-Halluzinationen. Unternehmen haften für KI-Falschaussagen: Das OLG Hamm (12. Mai 2026) und das LG Kiel (29. Februar 2024) entschieden, dass Betreiber die volle Verantwortung tragen. Der Haftungsgrund liegt in der unternehmerischen Entscheidung, eine Tätigkeit – etwa Auskünfte – vollständig auf KI auszulagern; KI-Chatbots gelten als integraler Bestandteil der Unternehmenskommunikation, nicht als Dritte.
EU-Fristen und Grundrechtsbedenken erhöhen Druck
Der EU AI Act bringt ab 2. August 2026 weitere Transparenzpflichten für Hochrisiko-KI, zu der Justizsysteme zählen. Konkret müssen Betreiber solcher Systeme zusätzliche Nachweispflichten erfüllen, da der europäische Gesetzgeber Justiz-KI als besonders grundrechtssensibel einstuft. AlgorithmWatch sieht im Bericht „Automating Injustice“ Grundrechtsrisiken: Algorithmische Systeme bei Polizei und Justiz liefen oft ohne Rechtsgrundlage und könnten diskriminieren, weil sie auf fehlerhaften oder voreingenommenen Daten basieren.
