Personal / HR

Leitfrage: Warum ist HR der rechtlich heikelste KI-Bereich überhaupt — und was muss der Geschäftsführer bei Recruiting-KI zwingend beachten (AI Act Hochrisiko, Mitbestimmung, Diskriminierung)?

Rolle & Zweck der Abteilung

HR gewinnt, entwickelt und verwaltet die Menschen im Unternehmen. Kern-Jobs: Recruiting (Stellen, Bewerbungen, Auswahl), Onboarding, Weiterbildung/Skill- Entwicklung, Personalverwaltung (Verträge, Zeit, Lohn), Mitarbeiterbindung. HR entscheidet über Lebenschancen von Menschen — deshalb ist es der Bereich, in dem KI-Fehler (Diskriminierung, Intransparenz) den größten Schaden anrichten und das Recht am schärfsten reguliert. Wichtigster Merker der ganzen Reihe: Recruiting-KI ist nach dem EU AI Act Hochrisiko.

Historische Linie (~2015–2026)

• 2014–2017 — das Amazon-Debakel. Amazon entwickelte ab 2014 ein KI-Recruiting-Tool,

entdeckte 2015 systematischen Gender-Bias und verwarf es 2017: Das Modell hatte „a preference for male candidates" gelernt, wertete Lebensläufe mit dem Wort „women's" ab. Öffentlich durch Reuters (11.10.2018). [BELEGT] — der ikonische Präzedenzfall.

• 2021 verankert das Betriebsrätemodernisierungsgesetz KI ausdrücklich im BetrVG

(§§ 80, 90, 95). [BELEGT]

• 2023 tritt die NYC Local Law 144 (Bias-Audit-Pflicht) in Kraft. [BELEGT]
• 2024 erstes deutsches Arbeitsgerichtsurteil zu ChatGPT (ArbG Hamburg). [BELEGT]
• 2024–2026 EU AI Act in Kraft; Recruiting als Hochrisiko klassifiziert; 2026

verschiebt der „Digital Omnibus" Fristen. [BELEGT]

KI heute in HR: Anwendungen, Grenzen, Heikelpunkte

Reale Nutzung in Deutschland ist noch gering (Bitkom 2025, 852 Unternehmen):

• CV-Screening/Matching: nur 1 % im Einsatz (21 % planen). [BELEGT]
• KI-Chatbots (Bewerber-/Mitarbeiterfragen): 4 % (25 % denkbar). [BELEGT]
• KI-Kompetenz-/Skill-Analyse: 3 % (29 % erwägen). [BELEGT]
• KI-Bewerbungsgespräche: 1 % (7 % denkbar). [BELEGT]

Die zentrale Grenze — Bias. Der Amazon-Fall zeigt strukturell: KI reproduziert Diskriminierung aus historischen Daten. Wer Auswahl-KI einsetzt, riskiert mittelbare Diskriminierung — genau deshalb die Hochrisiko-Einstufung.

Rechtliche Heikelpunkte (HR-spezifisch — Pflichtwissen, dichteste Rechtslage)

a) EU AI Act — Hochrisiko (Annex III Nr. 4). KI für Recruiting, Auswahl, Beförderung und Kündigung gilt als Hochrisiko; damit gelten Pflichten wie Risikomanagement, Daten-Governance, menschliche Aufsicht, Transparenz und Logging. [BELEGT] Frist — wichtige Korrektur: Ursprünglich sollten die Hochrisiko-Pflichten ab 02.08.2026 greifen; durch den Digital Omnibus (2026) wurde die Frist für eigenständige Annex-III-Systeme auf 02.12.2027 verschoben. Die Art.-50- Transparenzpflichten bleiben beim 02.08.2026. [BELEGT — Kanzleiberichte Gibson Dunn/ Freshfields; im Gesetzgebungsprozess, vor Druck final prüfen]

b) BetrVG — Mitbestimmung (der deutsche Sonderweg).

• § 95 Abs. 2a: Die Zustimmungspflicht zu Auswahlrichtlinien gilt ausdrücklich „auch

dann …, wenn … Künstliche Intelligenz zum Einsatz kommt." [BELEGT]

• § 90 Abs. 1 Nr. 3: Unterrichtungs-/Beratungspflicht bei Planung von

Arbeitsverfahren „einschließlich des Einsatzes von Künstlicher Intelligenz". [BELEGT]

• § 80 Abs. 3: erleichterte Hinzuziehung eines KI-Sachverständigen durch den

Betriebsrat (KI gilt als „erforderlich"). [BELEGT]

• § 87 Abs. 1 Nr. 6 (technische Überwachung): Das ArbG Hamburg entschied

(16.01.2024, Az. 24 BVGa 1/24): kein Mitbestimmungsrecht bei ChatGPT-Nutzung über private Accounts (der Arbeitgeber kann sie nicht überwachen) — anders bei Firmen-Accounts/Enterprise-Lizenzen. [BELEGT]

c) AGG (Diskriminierung). Bias-KI kann mittelbare Diskriminierung (§§ 1, 3 AGG) auslösen; der Amazon-Fall ist die Illustration. Konkrete deutsche Rechtsprechung dazu → [UNKLAR].

d) NYC Local Law 144 (internationaler Vergleich). Verlangt ein unabhängiges Bias-Audit vor Einsatz und jährlich sowie Veröffentlichung der Auswahlraten; Strafen 375–1.500 USD. [BELEGT] — mögliche Blaupause für europäische Praxis.

Studien, Zahlen, Trends — mit Widersprüchen

Vorsicht/Widersprüche: Der DE-US-Gap ist massiv (Faktor ~10–50 je Anwendung). Ein Teil erklärt sich durch Definition (SHRM zählt „AI in HR tasks" breit; Bitkom spezifische Prozesse) — direkte Vergleichbarkeit daher [STRITTIG]; der Grundtrend (USA weit voraus) ist aber konsistent. Die deutsche Zurückhaltung ist keine Rückständigkeit, sondern auch Folge von Mitbestimmung und Hochrisiko-Compliance.

Wohin geht es (12–36 Monate)

Belegte Trendlinie: Der Stichtag 02.12.2027 zwingt europäische HR-Abteilungen bis Ende 2027 zur Konformität für Recruiting-KI (Risikomanagement, Dokumentation, menschliche Aufsicht). Die US-Adoption steigt weiter (SHRM: +17 Punkte in einem Jahr). [BELEGT]

Vermutung (kein Fakt): Deutschland dürfte gegenüber den US-Zahlen zurückbleiben — getrieben durch Mitbestimmung und Compliance-Aufwand; Bias-Audits nach NYC-Vorbild könnten faktisch europäischer De-facto-Standard werden. *Spekulation.*

Maßnahmen für den Unternehmer (priorisiert)

1. Recruiting-KI als Hochrisiko behandeln (sofort, zentral): Vor Einsatz die

Hochrisiko-Pflichten (menschliche Aufsicht, Dokumentation, Risikomanagement) einplanen; Frist 02.12.2027 im Blick, aber Governance jetzt aufbauen.

1. Betriebsrat früh einbinden (sofort, Pflicht): § 95 Abs. 2a und § 90 BetrVG —

Auswahlrichtlinien mit KI sind zustimmungs-/beratungspflichtig; frühe Einbindung verhindert spätere Blockaden.

1. Menschliche Letztentscheidung sichern (sofort): Keine automatisierte Absage/Auswahl

ohne menschliche Prüfung (AGG-Risiko, Art. 22 DSGVO).

1. Bias prüfen (Audit) (mittel): Auswahl-KI vor und im Einsatz auf Diskriminierung

testen — NYC-LL-144-Logik als Vorbild.

1. Account-Frage klären (mittel): Firmen- vs. private KI-Accounts hat

mitbestimmungsrechtliche Folgen (ArbG Hamburg) — bewusst regeln.

Ausblick (nur andeuten)

Merker: Ein Bewerber-Chatbot (mit Transparenz), ein Onboarding-Assistent, ein Weiterbildungs-Empfehlungs-Agent. Auswahl-/Absageentscheidungen bleiben wegen Hochrisiko-Status, AGG und Mitbestimmung zwingend menschlich verantwortet. Nur Merker.

Was heißt das für den Geschäftsführer?

HR ist der Bereich, in dem die Verlockung der KI und ihr Risiko am weitesten auseinanderklaffen. Die Verlockung: Recruiting ist teuer und langsam, KI verspricht Tempo. Das Risiko: Hier entscheidet man über Menschen — und genau deshalb hat der EU-Gesetzgeber Recruiting-KI als Hochrisiko eingestuft, mit harten Pflichten (menschliche Aufsicht, Dokumentation, Risikomanagement), die europäische Arbeitgeber bis Ende 2027 erfüllen müssen. Dazu kommt der deutsche Sonderweg der Mitbestimmung: § 95 Abs. 2a BetrVG nennt KI ausdrücklich, Auswahlrichtlinien mit KI sind zustimmungspflichtig. Und über allem steht das Amazon-Lehrstück: KI lernt Diskriminierung aus alten Daten und kann so gegen das AGG verstoßen. Die richtige Führungshaltung ist deshalb nicht „schnell ausrollen", sondern „langsam und sauber": Recruiting-KI von Anfang an mit menschlicher Letztentscheidung, Bias-Prüfung, Dokumentation und früher Betriebsratseinbindung. Der belegte Befund, dass deutsche HR-Abteilungen KI bislang kaum einsetzen (1–4 %), ist hier weniger Rückstand als vernünftige Vorsicht — die man beim Einstieg beibehalten sollte.

Quellenliste, „schnell veraltend" & Selbstprüfungs-Notiz

Quellen (Stand 08/2026)

• Reuters/BuiltIn, „Amazon abandons AI hiring tool… gender bias", 11.10.2018 — https://builtin.com/artificial-intelligence/amazon-abandons-ai-hiring-tool-exposed-gender-bias [BELEGT]
• Gibson Dunn, „EU AI Act Omnibus … postponed high-risk deadlines", 27.05.2026 — https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/ [BELEGT — im Prozess]
• Freshfields, „Final Digital Omnibus on AI", 10.07.2026 — https://www.freshfields.com/en/our-thinking/blogs/technology-quotient/ [BELEGT — im Prozess]
• § 95 BetrVG (Abs. 2a KI) — https://dejure.org/gesetze/BetrVG/95.html ; https://www.gesetze-im-internet.de/betrvg/ [BELEGT]
• § 80 Abs. 3 / § 90 BetrVG (KI) — Kliemt.blog, 09.11.2022 — https://kliemt.blog/2022/11/09/ [BELEGT]
• ArbG Hamburg, 16.01.2024, 24 BVGa 1/24 — CMS, https://cms.law/de/deu/legal-updates/kein-mitbestimmungsrecht-des-betriebsrats-bei-chatgpt-co [BELEGT]
• NYC Local Law 144 — Littler, 05.07.2023 — https://www.littler.com/news-analysis/asap/new-york-city-adopts-final-regulations-use-ai-hiring-and-promotion-extends [BELEGT]
• Bitkom „KI im Recruiting" (852 Unt.) — Recrutainment-Blog, 30.05.2025 — https://blog.recrutainment.de/2025/05/30/ [BELEGT — Sekundär zu Bitkom]
• SHRM, „2025 Talent Trends — AI in HR", 25.07.2025 — https://www.shrm.org/topics-tools/research/2025-talent-trends/ai-in-hr [BELEGT]
• EU AI Act, Annex III Nr. 4 — https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689 [BELEGT — Primärrecht]

Schnell veraltend

• Digital-Omnibus-Frist (02.12.2027) — im Gesetzgebungsprozess, vor Druck final prüfen.
• AI-Act-Durchführungsakte zu Hochrisiko — laufend.
• Adoptionszahlen (SHRM/Bitkom) — jährlich.
• BetrVG-Rechtsprechung zu KI — in Entwicklung.

Selbstprüfungs-Notiz (Durchgang 2)

• Zahlen mit Quelle? Ja; DE-US-Gap und Definitionsproblem als [STRITTIG] offengelegt.
• Recht korrekt? Annex III (Hochrisiko), Fristverschiebung via Omnibus (im Prozess),

BetrVG §§ 95/90/80/87 mit Quelle, ArbG Hamburg, AGG, NYC LL144 — dichteste Rechtslage der Reihe; Primärtexte teils robots-gesperrt → über dejure/EUR-Lex, vor Druck prüfen.

• Meinung/Fakt getrennt? Ja (Abschnitt 5).
• DE vs. US? SHRM (US) und Bitkom (DE) klar getrennt, Vergleichbarkeit relativiert.
• Keine erfundenen Quellen? Alle URLs real; Kernbelege in dieser Sitzung abgerufen.

*Ende Kapitel 10 — Personal/HR.*