LangSmith führt smithtune ein: Fine-Tuning direkt aus Agenten-Trajektorien

smithtune: Neues CLI für Fine-Tuning aus LangSmith-Trajektorien

LangSmith hat ein Fine-Tuning-CLI namens smithtune veröffentlicht. Es nutzt Agenten-Trajektorien, die in LangSmith gespeichert sind, um ein feinabgestimmtes Modell zu erstellen. Teams können damit aus ihren eigenen, in LangSmith erfassten Interaktionsverläufen spezialisierte Modelle trainieren, ohne eine Datenpipeline von Hand aufbauen zu müssen. smithtune extrahiert dazu aus den Trajektorien die Eingaben und die als korrekt bewerteten Ausgaben und bereitet sie als Trainingsbeispiele für das Fine-Tuning auf. Laut Hersteller kann ein auf eigenen Beispielen trainiertes Modell oft genauso gut oder besser abschneiden als ein allgemeines Frontier-Modell, weil die Trainingsdaten direkt aus den spezifischen Aufgaben des Teams stammen und dadurch eine höhere Anpassung an die tatsächlichen Anforderungen ermöglichen. smithtune ist für das Post-Training von Modellen konzipiert und deckt den gesamten Ablauf von der Datensatzerstellung bis zur Evaluierung ab.

End-to-End-Workflow: Datensatz, Training und Evaluierung

smithtune übernimmt den vollständigen Fine-Tuning-Prozess aus einem einzigen CLI heraus. Zunächst werden aus den in LangSmith gespeicherten Trajektorien Trainingsdaten erzeugt und vorbereitet: Das Tool extrahiert aus jedem Verlauf die Nutzeranfrage als Eingabe und die als „gutes Verhalten“ markierte Agentenantwort als gewünschte Ausgabe. Diese Paare werden in das für SFT erforderliche Format (Input-Output-Paare) gebracht und für das Training aufbereitet. Anschließend erfolgt das Training wahlweise über Fireworks oder Baseten. Nach dem Training evaluiert smithtune das feinabgestimmte Modell und lädt die Evaluierungsergebnisse zur einfachen Analyse zurück nach LangSmith. Derzeit unterstützt das CLI ausschließlich supervised fine-tuning (SFT). Der Fokus liegt auf SFT, weil die LangSmith-Trajektoriendaten natürliche Beispiele für erwünschtes Verhalten liefern, die direkt als Input-Output-Paare für SFT genutzt werden können.

Partnerschaften und Ausführungsmodi

LangSmith hat laut Hersteller Partnerschaften mit Fireworks und Baseten geschlossen, um eine nahtlose Verbindung zwischen den LangSmith-Trajektorien und der Erstellung eines Datensatzes für das Fine-Tuning auf beiden Plattformen herzustellen. Diese Integration ermöglicht es, dass smithtune die aufbereiteten Trainingsdaten direkt an die Plattformen übergibt, sodass Trainingsjobs ohne manuellen Export oder Upload gestartet werden können. smithtune kann auf zwei Arten ausgeführt werden: direkt über die Kommandozeile oder in Zusammenarbeit mit einem Coding-Agenten. Der Coding-Agent führt die smithtune-Befehle automatisch aus, überwacht die Ausgaben und prüft die Ergebnisse, was den manuellen Aufwand reduziert und die Integration in bestehende Entwicklungsabläufe erleichtert.