Omnigent führt session-weites Risiko-Tracking ein

Session-weites Risiko-Tracking als neue Sicherheitsstufe

Omnigent hat einen neuen Kontext-Policy-Mechanismus eingeführt, der das Risiko nicht mehr nur für einzelne Aktionen bewertet, sondern über die gesamte Agenten-Session hinweg verfolgt. Herkömmliche Sicherheitsansätze betrachten isolierte Schritte – etwa das Lesen eines Dokuments oder das Versenden einer Nachricht – und bewerten diese separat. Ein indirekter Prompt-Injection-Angriff zerlegt den Datendiebstahl jedoch in harmlos erscheinende Einzelschritte: Der Agent liest ein Dokument, dann ein weiteres, erstellt eine Zusammenfassung und sendet sie ab. Kein einzelner Schritt überschreitet seine Berechtigungen, sodass eine schrittweise Prüfung den Angriff nicht erkennt. Der Angriff wird erst sichtbar, wenn man die gesamte Session betrachtet. Genau hier setzt der neue Mechanismus an: Eine einzige kontextbezogene Richtlinie aggregiert fortlaufend die Menge der sensiblen Daten, die der Agent im Verlauf einer Session liest. Dadurch werden mehrstufige Angriffsmuster erkennbar, die bei isolierter Betrachtung verborgen blieben.

So werden schrittweise Prompt-Injection-Angriffe unterbunden

Der Mechanismus erkennt Slow-Burn-Angriffe, indem er das kumulierte Risiko über die gesamte Session verfolgt. Sobald der Agent eine kritische Menge an sensiblem Material gelesen hat, blockiert die Richtlinie den ausgehenden Schritt – etwa das Versenden einer Nachricht oder das Schreiben in eine externe Schnittstelle. In einer Live-Demo wurde gezeigt, wie der Agent mehrere Dokumente liest, eine Zusammenfassung erstellt und versucht, diese zu versenden. Der ausgehende Schritt wird automatisch gestoppt, weil das session-weite Risiko erkannt wurde. Der Schutz erfordert keine weiteren Änderungen am Agenten. Zusätzlich ist der Mechanismus manipulationsresistent ausgelegt, um Umgehungsversuche durch Angreifer zu verhindern. So entsteht eine neue Verteidigungsebene gegen indirekte Prompt-Injection, die nicht nur einzelne Aktionen, sondern die gesamte Interaktionshistorie in den Blick nimmt.