Kontextfenster
Maximale Textmenge, die ein Modell auf einmal berücksichtigt.
Das Kontextfenster ist die maximale Menge an Text (gemessen in Token), die ein Sprachmodell gleichzeitig verarbeiten kann, also Eingabe und bisherige Antwort zusammen. Ist es zu klein, gehen früh genannte Informationen verloren. Größere Kontextfenster erlauben längere Dokumente und Gespräche, erhöhen aber Rechenaufwand und Kosten.