KI SpotlightNewsNemori: Speicherarchitektur für LLM-Agenten lernt aus Vorhersagelücken
Das Preprint teilt Gespräche in Episoden und speichert nur, was das System nicht vorhergesagt hat. Die Benchmark-Werte stammen von den Autoren und erlauben kein Ranking.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Nemori ist eine selbstorganisierende Speicherarchitektur für LLM-Agenten, inspiriert von kognitiver Wissenschaft.
- Nemori wurde auf den Benchmarks LoCoMo und LongMemEval evaluiert.
- Das Two-Step Alignment Principle gliedert den Gesprächsstrom in semantisch kohärente Episoden.
- Das Predict-Calibrate Principle lernt aus Vorhersagelücken statt aus vordefinierten Heuristiken.
- Nemori ist ein Dual-Store-Design mit episodischem und semantischem Speicher.
Nemori gliedert Gespräche in Episoden und lernt aus Vorhersagelücken
Das arXiv-Paper „Nemori: Self-Organizing Agent Memory Inspired by Cognitive Science“ beschreibt eine selbstorganisierende Speicherarchitektur für LLM-Agenten. Sie soll Agenten in langen Interaktionen ein dauerhaftes Gedächtnis verschaffen. Die Autoren kritisieren, dass bestehende Speichersysteme eine willkürliche Granularität der Speichereinheit verwenden und Wissen passiv, nach festen Regeln extrahieren.
Dem setzt Nemori zwei Prinzipien entgegen. Das Two-Step Alignment Principle stützt sich auf die Event Segmentation Theory. Es zerlegt den Gesprächsstrom top-down in semantisch zusammenhängende Episoden und legt so fest, wie groß eine Speichereinheit ist. Das Predict-Calibrate Principle geht vom Free-energy Principle aus. Der Agent lernt aus Vorhersagelücken, also aus dem, was er auf Basis seines bisherigen Wissens nicht erwartet hat, und nicht aus vordefinierten Heuristiken.
Die Arbeit liegt als Preprint vor. Ein Review-Status ist nicht bestätigt.
Puffern, Grenzen erkennen, vorhersagen, nur Verfehltes speichern
Wie das System arbeitet, lässt sich einer Zusammenfassung auf GitHub entnehmen, nicht dem Paper-Volltext. Demnach besteht Nemori aus einem Dual-Store-Design mit episodischem und semantischem Speicher.
Beim Schreiben puffert das System Nachrichten und erkennt eine semantische Grenze. Anschließend erzeugt es eine Episode mit Titel und Narrativ und ruft passende semantische Einträge ab. Danach sagt es den Inhalt der Episode voraus. Fakten, die diese Vorhersage verfehlt hat, zieht es aus dem rohen Gesprächssegment und überführt sie in die semantische Wissensbasis. Gespeichert wird also nur, was das System noch nicht wusste.
Beim Lesen greift Nemori über beide Speicher hinweg auf dichtes Retrieval zurück. Der Zusammenfassung zufolge ruft das Paper dabei die Top-k Episoden und die Top-2k semantischen Einträge ab.
0,744 auf LoCoMo: Zahlen der Autoren, kein Ranking
Auf dem Benchmark LoCoMo (gpt-4o-mini, LLM-Judge) erreicht Nemori laut GitHub-Zusammenfassung 0,744. FullContext kommt auf 0,723, Mem0 auf 0,613, Zep auf 0,585. Nemori verbrauche dabei rund 88 Prozent weniger Tokens als FullContext. Auf LongMemEvalS verbessere sich die durchschnittliche Genauigkeit bei 95 bis 96 Prozent weniger Kontext. Die Angabe ist im vorliegenden Material abgeschnitten. Dass Nemori frühere Systeme „significantly“ übertreffe, ist die Selbsteinschätzung der Autoren.
Mem0 ist ein eigenständiger, bereits veröffentlichter Ansatz. Auf LoCoMo nennt er 26 Prozent relative Verbesserung gegenüber OpenAI im LLM-as-a-Judge.
Andere Arbeiten melden abweichende Werte: REALM 75,97 Prozent auf LoCoMo und 65,11 Prozent auf LongMemEval, APEX-MEM 88,88 Prozent (LoCoMo-QA) und 86,2 Prozent. Metriken, Backbone-Modelle und Teilmengen unterscheiden sich. Ein Ranking wäre daher unbelegt. Eine unabhängige Replikation fehlt, eine Produktintegration ist nicht belegt.
