Alignment
Ausrichtung von KI-Verhalten an menschlichen Zielen und Werten.
Alignment bezeichnet das Bemühen, KI-Systeme so zu gestalten, dass ihr Verhalten mit den Absichten, Werten und Sicherheitsanforderungen der Menschen übereinstimmt. Dazu gehören Techniken wie RLHF, klare Trainingsvorgaben und Sicherheitsfilter. Fehl-Alignment liegt vor, wenn ein Modell zwar seine Trainingsvorgabe erfüllt, aber nicht das eigentlich gemeinte Ziel. Alignment ist ein Kernthema der KI-Sicherheitsforschung, besonders mit Blick auf immer fähigere Systeme.