KI SpotlightNewsBelohnungsmodell
Modell, das Antworten eine Belohnung zuweist.
Ein Belohnungsmodell lernt aus menschlichen Bewertungen, wie gut eine Antwort ist, und liefert daraus ein Zahlensignal. Beim RLHF dient es als Ersatz für laufende menschliche Bewertung, an dem sich das Sprachmodell ausrichtet. Seine Qualität entscheidet stark über das Ergebnis der Ausrichtung.