KI SpotlightNewsFactSet stimmt FQL-Modelle alle zwei bis drei Wochen fein ab
Laut Databricks läuft der Prozess auf der serverlosen GPU-Plattform AI Runtime, die noch in der Public Preview steckt
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- FactSets Text-to-Formula-System übersetzt Investmentprofi-Anfragen in FactSet-Query-Language-Formeln (FQL).
- FactSet stieß mit RAG an eine Qualitätsgrenze, da Nutzung und Formelkomplexität wuchsen.
- FactSet setzt in seiner Compound-AI-Architektur feinabgestimmte offene Modelle ein, um FQL-Muster zu trainieren.
- Laut früherer Arbeit senkten feinabgestimmte Modelle die End-to-End-Latenz um etwa 60 %.
- FactSet stimmt seine Modelle etwa alle zwei bis drei Wochen fein ab; Umgebungseinrichtung ist wiederkehrender Aufwand.
FactSet stimmt FQL-Modelle alle zwei bis drei Wochen fein ab
Der Finanzdatenanbieter FactSet passt die Modelle seines Text-to-Formula-Systems (TTF) laut einem Databricks-Bericht etwa alle zwei bis drei Wochen an. TTF übersetzt Anfragen von Investmentprofis in Formeln der FactSet Query Language (FQL). Der Takt macht Umgebung und GPU-Rechenleistung zum wiederkehrenden Aufwand. Bei einem gelegentlichen Experiment wäre das vertretbar. Wenn der Aufwand bei jedem neuen Datenstand oder Modell erneut anfällt, belastet er die Entwicklung. Genau dieser Rhythmus samt Infrastrukturaufwand ist der neue Aspekt des Berichts. Databricks bringt ihn mit seiner serverlosen GPU-Plattform AI Runtime in Verbindung.
Wie stark sich der Aufwand verringert, etwa von Tagen auf Stunden, belegt das vorliegende Material nicht. Der Auszug bricht ab, bevor konkrete Angaben folgen. Auch weitere Modelldetails fehlen. Genannt wird nur, dass FactSet mit Llama-basierten Modellen gearbeitet hat.
Warum RAG bei komplexen Formeln an eine Qualitätsgrenze stieß
FactSet baute TTF zunächst überwiegend auf Retrieval-Augmented Generation (RAG) auf. Dabei ruft das System zu einer Anfrage passende Beispiele und Informationen ab. Mit wachsender Nutzung, spezialisierteren Anfragen und komplexeren Formeln sei dieser Ansatz laut Databricks an eine Qualitätsgrenze gestoßen. Das ist eine Selbstdarstellung des Anbieters. Messwerte nennt das Material nicht.
FactSet nahm deshalb feinabgestimmte offene Modelle in seine Compound-AI-Architektur auf. Sie sollen Struktur und Muster von FQL lernen. Das System stützt sich dann nicht hauptsächlich auf Retrieval zur Inferenzzeit. Dazu passt eine allgemeine Faustregel von Databricks: RAG dient vor allem dazu, Wissen einzuspeisen. Feinabstimmung verändert eher Verhalten, Ton oder Aufgabenstruktur.
Nicht neu ist die Angabe, feinabgestimmte Modelle hätten die End-to-End-Latenz um etwa 60 Prozent gesenkt. Sie stammt aus früherer Arbeit an TTF und taucht auch in einer Fallstudie von ZenML auf. ZenML ist eine Sekundärquelle.
AI Runtime: Serverlose GPUs, aber noch Public Preview
Laut Databricks ist AI Runtime serverloses GPU-Compute für Training und Feinabstimmung eigener Modelle. Die Plattform ist in Notebooks, Jobs, Unity Catalog und MLflow eingebunden. Verfügbar sind A10- und H100-GPUs. Multi-GPU-Training unterstützen nur 8xH100 und 8xB300. Das Training auf 8xB300 läuft in der Public Preview und ist auf AWS nur über eine Warteliste zu erreichen.
Databricks kündigte das Angebot als Public Preview an. Workspace-Admins müssen es aktivieren. Mehrere hundert Kunden, darunter FactSet, Rivian und YipitData, nutzten es bereits in der Beta, um Modelle in die Produktion zu bringen. Das widerspricht dem Preview-Status nicht, es handelt sich um Beta-Einsatz. Die Aussage „state-of-the-art efficiency, performance, and quality“ ist eine Herstellerangabe. Unabhängige Benchmarks dazu liegen nicht vor.
Offen bleiben Kosten und mögliche Abhängigkeiten von der Plattform. Das Material bewertet beides nicht.
