KI SpotlightNewsOpenAI-kompatible API bündelt 34 kostenlose LLM-Anbieter
Ein Router wählt das beste Modell und wechselt bei Rate-Limits zum nächsten Anbieter.
Mit KI erstellt◆ Fakten auf einen Blick
- freellmapi bündelt laut seiner GitHub-Seite kostenlose LLM-Endpunkte von 34 Anbietern.
- Es stellt eine einzige OpenAI-kompatible API bereit.
- Die API aggregiert kostenlose Kontingente von Dutzenden Anbietern sowie eigene OpenAI-kompatible Chat-, Embedding-, Bild- und Audio-Endpunkte hinter einer einzigen /v1-API.
- API-Schlüssel werden verschlüsselt gespeichert.
- Ein Router wählt für jede Anfrage das beste verfügbare Modell aus, wechselt bei Rate-Limits zum nächsten Anbieter und überwacht die Nutzung pro Schlüssel, um unter den kostenlosen Kontingenten zu bleiben.
- Der Katalog umfasst 474 Modellfamilien und 635 kostenlose Endpunkte.
OpenAI-kompatible API bündelt 34 kostenlose LLM-Anbieter
Das Projekt freellmapi stellt eine einzige OpenAI-kompatible API bereit, die kostenlose LLM-Endpunkte von 34 Anbietern bündelt. Ein zentraler Router wählt für jede Anfrage das beste verfügbare Modell aus. Bei Rate-Limits wechselt der Router automatisch zum nächsten Anbieter. Das System überwacht die Nutzung pro API-Schlüssel, um unter den kostenlosen Obergrenzen der Anbieter zu bleiben. Laut der Projektseite werden monatlich etwa 7,4 Milliarden Tokens über diese API verarbeitet. Die API aggregiert kostenlose Kontingente von Dutzenden Anbietern und stellt sie hinter einer einzigen /v1-Schnittstelle bereit. Zusätzlich sind eigene OpenAI-kompatible Endpunkte für Chat, Embedding, Bild und Audio verfügbar. Der Router aktualisiert seinen eigenen Modellkatalog, um über die aktuell verfügbaren Endpunkte informiert zu sein.
474 Modellfamilien und 635 Endpunkte hinter einer /v1-API
Der vollständige Katalog des Projekts umfasst 474 Modellfamilien und 635 kostenlose Endpunkte. Diese Endpunkte sind hinter einer einzigen /v1-API verfügbar. Die Endpunkte umfassen Chat-, Embedding-, Bild- und Audio-Modelle. Die 635 kostenlosen Endpunkte stammen von Dutzenden Anbietern. API-Schlüssel werden verschlüsselt gespeichert. Die Projektseite ist auf Englisch und vereinfachtem Chinesisch verfügbar. Der Katalog kann durchsucht werden.
