KI SpotlightNewsKausale Maskierung
Verhindern des Blicks in die Zukunft.
Die kausale Maskierung sorgt bei der Textgenerierung dafür, dass ein Modell bei der Vorhersage eines Tokens nur die vorangehenden, nicht die nachfolgenden berücksichtigt. Ohne sie könnte das Modell beim Training unzulässig in die Zukunft schauen. Sie ist grundlegend für autoregressive Sprachmodelle.