Gradientenabstieg

Der Gradientenabstieg ist das grundlegende Optimierungsverfahren beim Training neuronaler Netze. Er passt die Modellparameter jeweils in die Richtung an, die den Fehler am stärksten verringert. In kleinen Schritten, über viele Wiederholungen, nähert sich das Modell so einer guten Lösung. Die Schrittgröße steuert die Lernrate.