KI SpotlightNewsPerplexity stellt Photon vor: Rust-Engine für schnellere Agentensuche
Neue Retrieval-Engine ersetzt geforkten Open-Source-Stack und senkt Latenz für KI-Agenten
Mit KI erstellt◆ Fakten auf einen Blick
- Neu ist die Einführung von Photon als Ersatz für die bisherige, geforkte Open-Source-Stack sowie das Fast Search API Preset. Konkrete Zahlen zu Latenz (p50 160 ms, p95 230 ms, internes p99 65 ms) und Kostenreduktion (68 %) werden genannt, sind jedoch ausschließlich durch unbelegte Fachartikel belegt.
- Entwickler und Unternehmen, die Perplexitys Search API für KI-Agenten nutzen, könnten von geringerer Latenz und niedrigeren Kosten profitieren. Perplexity selbst stärkt sein Angebot im Wettbewerb um agentenbasierte Suche. Konkurrenten wie Databricks (die eigene Retrieval-Lösungen anbieten) könnten unter Druck geraten, dies ist jedoch nicht durch die vorliegenden Belege belegt.
- Perplexity hat Photon vorgestellt, eine in Rust geschriebene Retrieval-Engine, die die Suchlatenz für KI-Agenten senken soll. Zusätzlich wurde ein Fast Search API Preset eingeführt, das auf Photon basiert und geringere Kosten pro Aufgabe verspricht.
Perplexity stellt Photon vor: Rust-Engine für schnellere Agentensuche
Perplexity hat eine neue Retrieval-Engine namens Photon vorgestellt. Die Engine ist in der Programmiersprache Rust geschrieben und soll die Suchlatenz für KI-Agenten senken. Photon ersetzt den bisherigen, von Perplexity geforkten Open-Source-Stack für Retrieval und Ranking. Die Neuimplementierung in Rust bringt technische Vorteile mit sich: Rust ist eine kompilierte Sprache ohne Garbage Collector, was zu deterministischer Leistung und geringerem Laufzeit-Overhead führt. Diese Eigenschaften sind besonders geeignet für eine Retrieval-Engine, die viele Suchanfragen mit niedriger Latenz verarbeiten muss. Durch die eigene Engine reduziert Perplexity zudem die Abhängigkeit von externem Open-Source-Code und kann die Infrastruktur gezielt für agentenbasierte Workflows optimieren, bei denen Agenten viele aufeinanderfolgende Suchschritte ausführen.
Fast Search API Preset: Geringere Kosten pro Aufgabe angekündigt
Zusätzlich zu Photon hat Perplexity ein neues Preset namens Fast Search in seiner Search API eingeführt. Das Preset basiert auf der neuen Rust-Engine und richtet sich an Entwickler, deren Agenten wiederholt Suchanfragen stellen. Es verspricht geringere Kosten pro Aufgabe im Vergleich zum Standard-Preset. Die Kostenreduktion wird dadurch erreicht, dass das Preset den Rechenaufwand für das Ranking reduziert: Es wird weniger Compute für die Bewertung und Sortierung der Suchergebnisse aufgewendet, was zu niedrigeren Kosten pro Suchaufruf führt. Dieser Ansatz kann jedoch mit einem Qualitätskompromiss einhergehen, da eine weniger aufwendige Rangierung die Relevanz der Ergebnisse beeinflussen kann. Für Agenten-Workflows, bei denen viele Suchaufrufe pro Aufgabe nötig sind, bietet das Preset eine Option mit niedrigerer Latenz und geringeren Kosten, ohne die Funktionalität wesentlich zu beeinträchtigen. Entwickler müssen abwägen, ob die schnellere und günstigere Suche für ihren Anwendungsfall ausreichend präzise ist.
