KI SpotlightNewsWeight Decay
Regularisierung durch Bestrafung großer Gewichte.
Weight Decay ist eine Form der Regularisierung, die große Gewichte im Training bestraft und das Modell so zu einfacheren, glatteren Lösungen drängt. Das verringert Overfitting und verbessert oft die Leistung auf neuen Daten.