KI SpotlightNewsKreuzentropie
Standard-Verlustfunktion für Klassifikation.
Die Kreuzentropie ist die gängige Verlustfunktion beim Training von Klassifikatoren und Sprachmodellen. Sie misst, wie stark die vorhergesagte Wahrscheinlichkeitsverteilung von der tatsächlichen abweicht, und bestraft selbstsichere Fehlvorhersagen besonders. Ihre Minimierung ist das Ziel des Trainings.