KI SpotlightNewsAlgorithmische Diskriminierung
Systematische Benachteiligung durch KI-Systeme.
Algorithmische Diskriminierung liegt vor, wenn ein KI-System Menschen aufgrund von Merkmalen wie Geschlecht, Herkunft oder Alter systematisch benachteiligt, oft ungewollt und mittelbar. Ursache sind meist verzerrte Trainingsdaten oder ungeeignete Zielgrößen. Sie zu erkennen und zu verhindern ist eine Kernaufgabe verantwortungsvoller KI.