AWS nimmt Full Fine-Tuning serverlos in SageMaker AI auf
Laut AWS aktualisiert FFT alle Modellparameter, ohne dass Kunden eigene Infrastruktur verwalten müssen. Zu Verfügbarkeit, Modellen und Preisen ist bislang nichts bekannt.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- AWS beschreibt Full Fine-Tuning als Funktion der serverlosen Model Customization in SageMaker AI.
- FFT aktualisiert die Modellparameter umfassend, LoRA/PEFT nur eine kleine Teilmenge.
- Kunden besitzen die Gewichte angepasster Modelle und können Bedrock oder SageMaker-Endpoints wählen.
- Amazon Bedrock ist laut AWS ein serverloser Dienst ohne Infrastrukturverwaltung.
SageMaker AI bietet Full Fine-Tuning ohne eigene Infrastruktur
Amazon Web Services (AWS) führt in SageMaker AI Full Fine-Tuning (FFT) großer Sprachmodelle als Teil der serverlosen Model Customization ein. Das geht aus einem Blogbeitrag des Unternehmens hervor. Kunden müssen dafür laut AWS keine eigene Infrastruktur verwalten. FFT aktualisiert dabei alle Modellparameter, nicht bloß einen Ausschnitt.
Die Angaben stammen von AWS selbst. Es handelt sich um eine Ankündigung des Anbieters, unabhängige Bestätigungen gibt es bislang nicht. Der Blogbeitrag sagt auch nicht, ob serverlos bisher ausschließlich LoRA oder andere parametereffiziente Verfahren möglich waren. Wie groß der Schritt gegenüber dem bisherigen Angebot ausfällt, lässt sich deshalb nicht beurteilen.
Fine-Tuning heißt, ein vortrainiertes Sprachmodell mit eigenen Daten weiterzutrainieren. So passt es sich an eine Domäne, eine Aufgabe oder einen Stil an.
AWS sieht bei LoRA eine Grenze durch die niedrigrangigen Updates
AWS grenzt FFT ausdrücklich von parametereffizienten Verfahren wie Low-Rank Adaptation (LoRA) ab. LoRA passt nur eine kleine Teilmenge der Parameter an und senkt dadurch den Bedarf an GPU-Kapazität. Die Updates sind jedoch niedrigrangig. Nach AWS-Angaben begrenzt genau das die Ausdrucksstärke der angepassten Modelle und kann die Leistung bei komplexen Aufgaben beeinträchtigen. FFT könne komplexe, domänenspezifische Muster besser aufnehmen.
Die Einordnung bleibt allgemein. Konkrete Messwerte nennt AWS in dem Blogbeitrag nicht.
Eine weitere Behauptung stammt ebenfalls vom Hersteller und ist unbelegt. Ein kleineres, spezialisiertes Modell könne bei der eigenen Aufgabe ein Frontier-Modell erreichen oder übertreffen und dabei zu einem Bruchteil des Inferenzpreises pro Token laufen. Auch dafür legt AWS keine Zahlen vor. Prüfen lässt sich das am ehesten mit eigenen Benchmarks: Basismodell, LoRA- und FFT-Variante auf derselben Aufgabe vergleichen und die Inferenzkosten gegenüberstellen. Alternativ helfen unabhängige Tests.
Gewichte gehören den Kunden, der Betrieb läuft auf Bedrock oder SageMaker-Endpoints
Auf der SageMaker-Customization-Seite schreibt AWS, Kunden besäßen die Gewichte der angepassten Modelle. Sie könnten außerdem wählen, wo die Modelle laufen: serverlos auf Amazon Bedrock oder auf dedizierten Inferenz-Endpoints in SageMaker. Das ist eine allgemeine Aussage der Customization-Seite. Für FFT im Speziellen ist sie nicht gesondert bestätigt.
Bedrock beschreibt AWS als serverlosen Dienst ohne Infrastrukturverwaltung. Damit lassen sich Foundation Models unter anderem per Fine-Tuning privat an eigene Daten anpassen. In einer Entscheidungshilfe stellt AWS Bedrock als vollständig verwalteten, serverlosen Dienst neben SageMaker AI.
Verfügbarkeit, Modelle und Preise bleiben offen
Bislang nicht bekannt ist, ob FFT allgemein verfügbar ist oder sich noch in einer Preview befindet. Ebenso fehlen Angaben zu Regionen, unterstützten Modellen, Trainingsverfahren und Preisen. Ohne diese Angaben lassen sich der Abstand zum bisherigen Angebot, der konkrete Nutzen und die Kosten für Unternehmen nicht belegen.



