PARSER entkoppelt paralleles Chunk-Reading von iterativem Reasoning für Long-Context-LLM-Agenten

PARSER entkoppelt paralleles Chunk-Reading von iterativem Reasoning

PARSER ist eine neue Architektur für Long-Context-LLM-Agenten, die zwei bisher gekoppelte Prozesse voneinander trennt: das parallele Lesen von Dokument-Chunks und das iterative Schlussfolgern. Bisherige sequenzielle Memory-Agenten verarbeiten lange Dokumente, indem sie Chunks nacheinander lesen und dabei einen kompakten Speicherzustand pflegen. Diese Kopplung von Dokumentdurchquerung und Reasoning-Tiefe führt zu einer Empfindlichkeit gegenüber der Platzierung von Evidenz und bindet die Inferenzlatenz linear an die Dokumentlänge. PARSER entkoppelt das Lesen vom Reasoning: Eine Bank leichter Subagents liest das gesamte Dokument parallel, während ein Lead-Agent in iterativen Scatter-Gather-Runden tiefergehend schlussfolgert.

Die zentrale Neuerung liegt in dieser konkreten Trennung von parallelem Lesen und iterativem Reasoning über Scatter-Gather-Subagents. Der Unterschied zu bisherigen sequenziellen Ansätzen besteht darin, dass die Dokumentdurchquerung nicht mehr an die Reasoning-Tiefe gekoppelt ist. Bei sequenziellen Agenten muss jeder Chunk einzeln gelesen und in den Speicherzustand integriert werden, bevor der nächste verarbeitet werden kann. Dadurch wächst die Latenz linear mit der Dokumentlänge, und die Evidenzempfindlichkeit entsteht, weil der kompakte Speicherzustand Informationen aus früheren Chunks verlieren oder verzerren kann, wenn die relevante Evidenz erst später im Dokument auftritt. PARSER umgeht diese Probleme, indem alle Chunks gleichzeitig gelesen werden und der Lead-Agent die Evidenz direkt aus den Chunk-Antworten aggregiert, ohne einen kompakten Zwischenspeicher zu benötigen. Dadurch wird die Latenz reduziert, und die Empfindlichkeit gegenüber der Evidenzplatzierung wird verringert. Die Architektur adressiert damit ein grundlegendes Problem von Long-Context-LLM-Agenten: die ineffiziente und fehleranfällige sequenzielle Verarbeitung langer Dokumente. PARSER ersetzt diese durch eine parallele Lese-Phase und eine davon entkoppelte, iterative Reasoning-Phase, die über mehrere Runden hinweg Evidenz sammelt und verdichtet. Die berichteten Ergebnisse stammen aus der Primärquelle zu PARSER und sind als Herstellerangabe zu werten.

Lead-Agent steuert eingefrorene Subagents in Scatter-Gather-Runden

Der Mechanismus von PARSER beruht auf einer Arbeitsteilung zwischen einem Lead-Agenten und einer Bank leichter Subagents. Jeder Subagent ist an einen einzelnen Dokument-Chunk gebunden und liest diesen parallel zu den anderen. Der Lead-Agent sammelt in iterativen Scatter-Gather-Runden Evidenz: In jeder Runde sendet er eine Anfrage an alle Subagents, aggregiert die zurückgegebenen Belege und formuliert eine tiefergehende Folgefrage, die auf dem bisher Gefundenen basiert. Das lernbare Verhalten ist vollständig im Lead-Agenten konzentriert; er wird mit Reinforcement Learning optimiert. Die Subagents bleiben eingefrorene Standardmodelle und werden nicht trainiert.

Die Konzentration des lernbaren Verhaltens im Lead-Agenten bedeutet, dass nur dieser Agent trainiert wird. Dies reduziert den Trainingsaufwand erheblich, da die Subagents keine Gradientenberechnungen oder Parameteraktualisierungen benötigen. Sie sind vortrainierte Standardmodelle, die unverändert bleiben und lediglich als parallele Leseeinheiten fungieren. Dadurch entfällt der Rechen- und Datenaufwand, der sonst für das Training aller Komponenten erforderlich wäre. Die Flexibilität der Architektur ergibt sich daraus, dass die Subagents bei Bedarf ausgetauscht werden können, ohne den Lead-Agenten neu trainieren zu müssen. Da der Lead-Agent unabhängig von den spezifischen Subagent-Modellen ist, kann die Subagent-Bank beispielsweise durch leistungsfähigere oder spezialisierte Modelle ersetzt werden, ohne dass die Reinforcement-Learning-Optimierung des Lead-Agenten wiederholt werden muss. Zudem lässt sich die Architektur leicht skalieren, indem weitere Subagents für zusätzliche Chunks hinzugefügt werden, ohne das Training zu beeinflussen. Die Reinforcement-Learning-Optimierung des Lead-Agenten zielt darauf ab, die Qualität der gestellten Fragen und die Aggregation der Evidenz zu verbessern, sodass der Agent lernt, in möglichst wenigen Runden die relevanten Informationen zu extrahieren und korrekt zu schlussfolgern. In jeder Scatter-Gather-Runde broadcastet der Lead-Agent eine Query an alle Subagents, die jeweils nur ihren eigenen Chunk kennen und daraus relevante Evidenz zurückgeben. Der Lead-Agent aggregiert diese Rückmeldungen und formuliert darauf aufbauend eine tiefere Folgefrage, die in der nächsten Runde erneut an alle Subagents geht. Dieser iterative Prozess erlaubt es dem Lead-Agenten, schrittweise ein immer präziseres Bild der relevanten Informationen zu entwickeln, ohne selbst das gesamte Dokument lesen zu müssen.

5,7 Punkte besser als sequenzielle Memory-Baseline – 12,0 bei 896K Token

Auf Multi-Hop-QA mit Kontexten von 7K bis 896K Token übertrifft PARSER mit einem 4B-Backbone die stärkste sequenzielle Memory-Baseline im Durchschnitt um 5,7 Punkte. Bei der maximalen Kontextlänge von 896K Token beträgt der Vorsprung 12,0 Punkte. Mit einem 9B-Backbone übertrifft PARSER DeepSeek-V4-Pro um 6,3 Punkte. Kontrollierte Experimente bestätigen zudem, dass PARSER robust gegenüber Störungen in Evidenzposition, -reihenfolge und -distanz ist. In diesen Experimenten wurden die Position, die Reihenfolge und die Distanz der Evidenz gezielt verändert, um die Stabilität der Architektur unter verschiedenen Bedingungen zu testen. Die Ergebnisse zeigen, dass PARSER auch bei solchen Perturbationen zuverlässig arbeitet. Diese Leistungsdaten stammen aus der Primärquelle zu PARSER und sind als Herstellerangabe zu werten. Der Vorsprung von PARSER wächst mit zunehmender Kontextlänge: Während der durchschnittliche Vorsprung über alle Kontextlängen von 7K bis 896K Token bei 5,7 Punkten liegt, erreicht er bei der maximalen Länge von 896K Token 12,0 Punkte. Dies deutet darauf hin, dass die Entkopplung von Lesen und Reasoning besonders bei sehr langen Dokumenten von Vorteil ist, wo sequenzielle Ansätze an ihre Grenzen stoßen. Die Skalierung auf ein 9B-Backbone zeigt, dass PARSER auch mit größeren Modellen leistungsfähig bleibt und dann sogar DeepSeek-V4-Pro um 6,3 Punkte übertrifft.

Archiv-Kontext: Reasoning-Separierbarkeit und Inference-Lastverteilung

Die Architektur von PARSER fügt sich in zwei bereits im Archiv behandelte Themen ein. Siehe „Reasoning-Operationen in LLMs sind geometrisch separierbar“ (archiv1) und „Warum klassisches Load Balancing bei LLM-Inference versagt“ (archiv2). Der erste Artikel liefert Hintergrund zu den von PARSER adressierten Reasoning-Herausforderungen; der zweite thematisiert Effizienzprobleme, die für PARSERs Latenz- und Parallelisierungsanspruch relevant sind. Beide Archiv-Artikel werden hier nur als kontextuelle Verweise genannt, ohne ihre Inhalte über die gegebenen Titel und Rollen hinaus auszuführen.