Instruction Tuning
Training, damit Modelle Anweisungen befolgen.
Instruction Tuning ist ein Trainingsschritt, bei dem ein Sprachmodell anhand vieler Beispiele aus Anweisung und passender Antwort lernt, Anweisungen zuverlässig zu befolgen. Es verwandelt ein reines Textvorhersagemodell in einen brauchbaren Assistenten und geht oft dem Feinschliff per RLHF voraus.