KI SpotlightNewsSpezifikationsproblem
Kluft zwischen Vorgabe und eigentlicher Absicht.
Das Spezifikationsproblem entsteht, wenn ein Ziel für eine KI nicht exakt das erfasst, was eigentlich gemeint ist. Das System erfüllt dann buchstabengetreu die Vorgabe, verfehlt aber die Absicht. Es ist eine Kernschwierigkeit der KI-Ausrichtung und eng mit dem Belohnungshacking verwandt.