KI SpotlightNewsTrilogy setzt auf Fireworks AI als Inferenzinfrastruktur für Enterprise-KI
Das AI Center of Excellence reagiert mit der Einführung von Fireworks AI auf steigende Kosten und operative Einschränkungen bei der KI-Nutzung.
Mit KI erstelltTrilogy setzt auf Fireworks AI für Enterprise-KI-Workloads
Trilogy hat Fireworks AI als primäre Inferenzinfrastruktur-Schicht für Evaluierung und frühe Produktions-Workloads eingeführt. Das AI Center of Excellence (AI COE) des Unternehmens, das hunderte Portfolio-Unternehmen beaufsichtigt, war mit eskalierenden KI-Infrastrukturkosten und operativen Einschränkungen konfrontiert, als die KI-Nutzung in den Engineering-Teams zunahm. Angesichts dieser Entwicklung evaluierte Trilogy Open-Weight-Modelle und begann, Fireworks AI als zentrale Inferenzschicht für Evaluierungs- und frühe Produktions-Workloads einzusetzen. Die Plattform dient als einheitliche Umgebung für die Bewertung und erste produktive Nutzung von KI-Modellen im gesamten Portfolio.
Kostendruck und operative Hürden als Treiber
Trilogy sah sich mit eskalierenden KI-Infrastrukturkosten und operativen Einschränkungen konfrontiert, als die KI-Nutzung in den Engineering-Teams der Portfolio-Unternehmen zunahm. Ratenbegrenzungen, Nutzungsobergrenzen und eine variierende Infrastrukturleistung beeinflussten zunehmend, wie KI in Produktions-Workflows eingesetzt werden konnte, und führten zu Reibungen bei Experimenten und im operativen Einsatz. Um diesen Herausforderungen zu begegnen, evaluierte Trilogy Open-Weight-Modelle und entschied sich, Fireworks AI als primäre Inferenzinfrastruktur-Schicht für Evaluierung und frühe Produktions-Workloads einzuführen. Das AI COE reagiert damit auf die operativen Hürden, die durch die Skalierung der KI-Nutzung entstanden sind.
