Quantisierung
Kompression von Modellen für weniger Speicherbedarf.
Quantisierung reduziert die Genauigkeit der Modellgewichte (z. B. von 16 auf 4 Bit) und senkt so Speicherbedarf und Rechenlast — bei meist geringem Qualitätsverlust. So laufen große Modelle auch auf normaler Hardware.