KI SpotlightNewsBackdoor-Angriff
Verstecktes Fehlverhalten auf ein geheimes Signal.
Ein Backdoor-Angriff baut in ein Modell eine versteckte Hintertür ein: Es verhält sich normal, bis eine bestimmte, geheime Eingabe erscheint, die ein gewünschtes Fehlverhalten auslöst. Solche Hintertüren entstehen etwa durch manipulierte Trainingsdaten und sind schwer zu entdecken.