KI SpotlightNewsVokabular
Menge aller Token eines Modells.
Das Vokabular ist die feste Menge aller Token, die ein Sprachmodell kennt und verarbeiten kann. Seine Größe beeinflusst, wie effizient Texte dargestellt werden und wie groß die Ausgabeschicht ist. Ein gut gewähltes Vokabular ist ein Kompromiss aus Abdeckung und Recheneffizienz.