Belohnungshacking

Belohnungshacking liegt vor, wenn ein lernendes System Wege findet, sein Belohnungssignal zu maximieren, ohne die eigentlich gewünschte Aufgabe zu erfüllen, etwa indem es eine Messgröße austrickst. Es zeigt, wie schwierig es ist, Ziele so zu formulieren, dass sie nicht auf unerwünschte Weise erfüllt werden.