LoRA

LoRA (Low-Rank Adaptation) ist eine Technik, um große Modelle effizient anzupassen: Statt alle Gewichte zu verändern, werden nur wenige zusätzliche, kleine Parameter trainiert. Das spart Rechenleistung und Speicher erheblich und macht das Feintuning großer Modelle auch mit begrenzter Hardware möglich.