Stochastisches Gradientenabstiegsverfahren (SGD)

SGD passt die Gewichte eines Modells an, indem es den Fehler jeweils an kleinen, zufällig gezogenen Datenmengen berechnet und in die Gegenrichtung des Gradienten geht. Es ist das Grundverfahren des Trainings neuronaler Netze, auf dem viele modernere Optimierer aufbauen.