Stereotype in KI
Verfestigung von Vorurteilen durch Modelle.
KI-Modelle können Stereotype aus ihren Trainingsdaten übernehmen und verstärken, etwa indem sie bestimmte Berufe unbewusst einem Geschlecht zuordnen. Weil solche Muster in großem Maßstab wirken, können sie gesellschaftliche Vorurteile verfestigen. Ihre Erkennung und Minderung ist Gegenstand der Fairness-Forschung.