Amazon Bedrock führt verwaltete Knowledge Base für Multi-Tenant-Chat ein

Amazon Bedrock startet verwaltete Knowledge Base für Multi-Tenant-Chat

Amazon hat eine neue verwaltete Knowledge Base für Amazon Bedrock angekündigt, die sich speziell an multi-tenant agentic Chat-Anwendungen auf Unternehmensdaten richtet. Laut Hersteller sind solche Assistenten eine häufige Anforderung großer Kunden, wobei der Dokumenten-Chat an erster Stelle steht: Nutzer laden Verträge, Berichte oder Handbücher hoch und stellen dazu unmittelbar oder später Fragen. Die conversationale Oberfläche sei einfach zu bauen, das dahinterliegende multi-tenant agentic Retrieval-System jedoch nicht. Jedes Tenant-Dokument müsse strikt von allen anderen isoliert bleiben, und diese Grenze müsse von einer verifizierten Identität durchgesetzt werden – nicht von einem clientseitig gesendeten Wert. Agentic Retrieval verschärfe das Problem, da der Agent eine Frage in Teilabfragen zerlege und mehrere Abrufe ausführe; jeder dieser Hops müsse den Tenant-Filter tragen, sonst breche die Isolation. Zusätzlich benötige man weiterhin eine Vektor- und Volltext-Suchmaschine, eine Ingestion-Pipeline, die mehrere Modalitäten parst und einbettet, sowie einen synchronisierten Index. Für ein Team, das diese Funktion ausliefern wolle, sei das eine erhebliche Menge an Infrastruktur, die es zu bauen, zu sichern und zu betreiben gelte. Mit der Amazon Bedrock Managed Knowledge Base lasse sich diese undifferenzierte Arbeit verringern: Der Service verwaltet Ingestion, Speicherung, Embedding und Ranking, sodass keine Infrastruktur bereitgestellt oder Kapazität überwacht werden müsse. Darüber hinaus biete er integriertes agentic retrieval, das iterative Planung und Multi-Hop-Retrievals nutzt, um Fragen zu beantworten. Die Ankündigung betont, dass keine Infrastruktur bereitgestellt oder Kapazität überwacht werden muss. Eine unabhängige Prüfung der tatsächlichen Einsparungen und der konkreten Umsetzung der Isolation steht noch aus.

Tenant-Isolation als zentrales Problem agentischer Retrievals

Multi-tenant agentic Chat-Assistenten sind laut Amazon eine häufige Anforderung großer Kunden, und der Dokumenten-Chat steht an erster Stelle. Die zentrale Herausforderung liegt in der Isolation: Die Dokumente jedes Mieters müssen strikt von denen anderer getrennt bleiben, und diese Grenze muss von einer verifizierten Identität durchgesetzt werden – nicht von einem Wert, den der Client selbst sendet. Agentic Retrieval verschärft das Problem erheblich: Der Agent zerlegt eine Frage in Teilabfragen und führt mehrere Abrufe durch, und jeder dieser Hops muss den Tenant-Filter tragen, sonst bricht die Isolation. Die Amazon Bedrock Managed Knowledge Base wird als Lösung positioniert, die diese undifferenzierte Arbeit verringert, indem sie Ingestion, Speicherung, Embedding und Ranking verwaltet und integriertes agentic retrieval bietet. Die Ankündigung beschreibt jedoch nicht im Detail, auf welcher technischen Ebene (z. B. IAM-Policies oder Service-seitige Filterung) die Tenant-Isolation im Service umgesetzt wird und wie sichergestellt wird, dass der Tenant-Filter bei jedem Hop erhalten bleibt. Diese Angaben sind als Herstellerangaben zu werten und unabhängig zu prüfen.

Hersteller verspricht weniger undifferenzierte Arbeit für Entwickler

Nach Angaben von Amazon können Entwickler mit der Managed Knowledge Base die undifferenzierte Arbeit beim Aufbau solcher Systeme vermeiden. Der Hersteller verspricht eine erhebliche Reduzierung der zu bauenden, sichernden und betreibenden Infrastruktur. Diese Aussagen sind ausdrücklich als Herstellerangaben zu werten und unabhängig zu prüfen: Ob der Service tatsächlich den gesamten beschriebenen Infrastrukturaufwand eliminiert, wie hoch der verbleibende Konfigurationsaufwand ist und ob die Tenant-Isolation in der Praxis zuverlässig funktioniert, müssen Tests zeigen. Die Ankündigung enthält keine konkreten Zahlen zu Einsparungen, Betriebskosten oder Latenz. Interessenten sollten daher evaluieren, ob der verwaltete Service die spezifischen Anforderungen an Isolation, Datenkontrolle und Compliance erfüllt, bevor sie eine Migration planen. Die Prüfung sollte insbesondere die tatsächliche Durchsetzung der Tenant-Grenzen in Multi-Hop-Retrieval-Szenarien umfassen.