KI SpotlightNewsAdversarialer Agent entlarvt blinden Fleck im Review
Ein Entwickler zeigt: Nur das Weglassen der eigenen Schlussfolgerung macht ein Review nicht blind – erst der gezielte Bruchversuch deckt unsichtbare Fehler auf.
Mit KI erstellt◆ Fakten auf einen Blick
- Der Autor setzt in seinem Agenten-System eine adversarial Review-Stufe ein: Nachdem ein Sub-Agent ein Urteil gefällt hat, wird ein zweiter Agent gestartet, dessen einzige Aufgabe es ist, dieses Urteil zu brechen.
- Die bisherige Arbeitsdefinition des Autors für 'blind' war, die eigene Schlussfolgerung nicht in den Prompt des zweiten Agenten zu geben.
- Am 2026-08-04 versagte diese Definition.
- Der Fehler war im Nachhinein offensichtlich, aber während der Entwicklung unsichtbar.
Adversarialer Agent entlarvt blinden Fleck im Review
Ein Entwickler, der in seinem Blog „hexisteme notes“ über den Aufbau eines eigenen Agenten-Systems berichtet, hat eine Schwachstelle in seiner bisherigen Review-Methode offengelegt. Er setzt nun auf einen adversarialen Ansatz: Nachdem ein Sub-Agent eine Entscheidung getroffen hat, wird ein zweiter KI-Agent gestartet, dessen einzige Aufgabe es ist, dieses Urteil gezielt zu brechen. Der zweite Agent agiert also nicht als neutraler Prüfer, sondern als konstruktiver Gegenspieler, der aktiv nach Fehlern und Schwachstellen in der Argumentation des ersten Agenten sucht.
Bislang hatte der Entwickler eine einfachere Definition eines „blinden“ Reviews verwendet: Er ließ lediglich seine eigene Schlussfolgerung aus dem Prompt des zweiten Agenten weg. Die Annahme: Ohne Kenntnis des Ergebnisses könne der zweite Agent unvoreingenommen prüfen. Doch dieser Ansatz erwies sich als trügerisch. Das Problem: Das bloße Weglassen der Schlussfolgerung verhindert nicht, dass der zweite Agent denselben impliziten Annahmen oder Denkfehlern unterliegt wie der erste. Er erhält zwar nicht das Endergebnis, aber die gleiche Aufgabenstellung und oft auch die gleiche Zwischenargumentation – und kann so in dieselben Fallen tappen. Ein wirklich blinder Review erfordert mehr: Der Prüfagent muss gezielt versuchen, die Entscheidung zu brechen. Nur so werden Schwachstellen sichtbar, die bei einer passiven Prüfung verborgen bleiben.
Der unsichtbare Fehler vom 4. August 2026
Am 4. August 2026 versagte die alte Definition in einem konkreten Fall. Der Entwickler hatte einen Stapel von 18 Backlog-Einträgen – Leserkommentare zu einem früheren Blogbeitrag – automatisch klassifizieren lassen. Der zweite Agent, der ohne Kenntnis der Schlussfolgerung prüfte, übersah einen Fehler: Einige Kommentare wurden einer falschen Kategorie zugeordnet. Der Fehler war im Nachhinein offensichtlich, denn die Kommentare enthielten klare sprachliche Signale für eine andere Kategorie. Während der Entwicklung blieb er jedoch völlig unsichtbar, weil der Entwickler darauf vertraute, dass das Weglassen der eigenen Schlussfolgerung einen blinden Review garantiert. Der zweite Agent hatte die fehlerhafte Klassifikation lediglich passiv bestätigt, ohne die zugrunde liegenden Annahmen zu hinterfragen. Hätte er stattdessen aktiv versucht, die Klassifikation zu widerlegen, wäre der Widerspruch aufgefallen. Der Vorfall unterstreicht, dass selbst vermeintlich neutrale Review-Prozesse anfällig für blinde Flecken sind – und dass ein adversariales Vorgehen eine wirksame Gegenmaßnahme sein kann. Für den Entwickler war das Scheitern der alten Methode ein Weckruf. Er setzt nun konsequent auf den adversarialen Agenten, der nicht nur blind prüft, sondern aktiv nach Schwachstellen sucht.
