Scale AI und NVIDIA: Post-Training für offene Nemotron-Modelle startet

Scale Post-Training macht Nemotron 3.5 Super VL für Unternehmen anpassbar

Scale AI und NVIDIA arbeiten zusammen, damit Unternehmen offene Nemotron-Modelle auf eigene Aufgaben zuschneiden können. Das Angebot heißt Scale Post-Training und gehört neu zum Scale GenAI Portfolio. Scale zufolge steht es ab sofort allen Unternehmen offen. Abgedeckt werden offene Modelle, darunter Nemotron 3.5 Super VL und die gesamte Nemotron-Familie.

Scale hatte nach eigenen Angaben früh Zugang zu dem Modell. Vor dem Start hat die Firma es mit Unternehmen wie Skydance und EY post-trainiert. Dafür verbindet Scale die eigene Evaluationsmethodik sowie Daten- und Trainingsexpertise mit den Post-Training-Werkzeugen von NVIDIA. Post-Training heißt: Ein bestehendes Modell lernt anhand von Beispielen gut erledigter Arbeit, eine bestimmte Aufgabe zu beherrschen.

Laut NVIDIA ist Nemotron 3.5 Super VL ein offenes, multimodales Modell mit 120 Milliarden Parametern. Es setzt auf eine Mixture-of-Experts-Architektur, bei der pro Token nur 12 Milliarden Parameter aktiv sind. Das soll Kapazität und Inferenzeffizienz ausbalancieren. Mit NVIDIA NeMo lässt sich das Modell mit eigenen Daten, Werkzeugen und Richtlinien weitertrainieren.

Versicherungs-Copilot extrahiert Fakten in französischen Live-Anrufen

Als Fallstudie beschreibt Scale einen Copilot für Kundenservice-Mitarbeitende eines nicht namentlich genannten globalen Versicherers. Das Werkzeug läuft im Live-Gespräch auf Französisch neben den Mitarbeitenden mit. Eingesetzt wird es bei der Pannenhilfe. Während des Anrufs zieht es die Kernfakten des Falls heraus, schlägt passende Leistungen vor und markiert Zusagen, die über die Police hinausgehen. Das Timing zählt: Fakten ergeben sich oft erst über mehrere Gesprächsrunden, und Entscheidungen fallen, bevor das Gespräch endet.

Die folgenden Zahlen stammen ausschließlich von Scale. Es handelt sich um Herstellerangaben. Die Genauigkeit der Faktenextraktion stieg durch Supervised Fine-Tuning und Reinforcement Learning von 76,1 auf 93,8 Prozent. Das Produktionsmodell des Versicherers kam auf 62,6 Prozent. Bei der Leistungsempfehlung erreichte das angepasste Modell 95,6 Prozent, das Produktionsmodell 85,4 Prozent und das beste getestete Frontier-Modell 92,2 Prozent. Die Inferenzkosten sanken laut Scale um etwa 70 bis 75 Prozent gegenüber dem Produktionsmodell. Unabhängige Messungen gibt es bislang nicht.

Kostenangaben von 70 bis 75 Prozent und 40-fach passen nicht zusammen

Die Kostenzahlen lassen sich nicht ohne Weiteres zusammenführen. Laut dem Portal aiweekly.co, einer Sekundärquelle, nennt Scale 40-fach geringere Inferenzkosten und zehnfach geringere Latenz in der Produktion. Das passt schlecht zu den 70 bis 75 Prozent aus der Versicherungsfallstudie. Denkbar sind unterschiedliche Bezugsgrößen oder Workloads, etwa ein Vergleich mit einem Produktionsmodell gegenüber einem anderen Basismodell. Offengelegt ist davon nichts. Der Widerspruch bleibt ungelöst.

Auch NVIDIAs Aussagen lassen sich nicht unabhängig prüfen. Das Unternehmen nennt bis zu fünffach höheren Durchsatz pro GPU gegenüber anderen offenen Modellen dieser Größenklasse. Außerdem behauptet es, post-trainierte Varianten schlügen Claude Opus 5 und GPT-6.1 Sol in fünf Domänenaufgaben. Dem Bericht zufolge fehlen Aufgabendefinitionen, Stichprobengrößen und das Testprotokoll. Käufer sollten die Ansätze deshalb mit den eigenen Aufgaben testen.