Brasilien: Gerichte sanktionieren versteckte KI-Befehle in Schriftsätzen

STF, STJ und TJSP verhängen Geldstrafen wegen weißer Geheimbefehle in Schriftsätzen

Brasilianische Gerichte haben versteckte Anweisungen an KI-Systeme in Schriftsätzen mit Geldstrafen belegt. Am Obersten Gerichtshof STF, der nach eigener Mitteilung den ersten Fall dieser Art an der Corte identifizierte, meldete der KI-Kern des IT-Generalsekretariats den Fall ARE 1608713 am 3. September.

Die Anweisungen standen in weißer, verkleinerter Schrift. Sie sollten die Gerichts-KI dazu bringen, das Rechtsmittel zuzulassen und ihm stattzugeben. Relator Cristiano Zanin verhängte wegen Verstoßes gegen die Prozesslauterkeit eine Strafe von zwei Mindestlöhnen. Er ordnete zudem die Mitteilung an die Anwaltskammer OAB und an die Bundesstaatsanwaltschaft MPF an. Die OAB soll einen möglichen ethischen Verstoß prüfen, das MPF eine mögliche Straftat. Laut STF-Mitteilung beeinflusste der Versuch die Entscheidung nicht.

Der Superior Tribunal de Justiça (STJ) wertete versteckte Befehle in einer Revisionsschrift als Litigância de má-fé, also als missbräuchliche Prozessführung. Entdeckt hatte den Text das automatisierte Dokumentenüberwachungssystem des Gerichts. Das einstimmige Urteil der Zweiten Turma unter Relator Teodoro Silva Santos stützt sich auf Artikel 81 der Zivilprozessordnung (CPC). Das Verfahren unterliegt der Geheimhaltung. Der STJ ordnete außerdem die Mitteilung an die zuständigen Behörden an.

Das Tribunal de Justiça von São Paulo (TJSP) stellte in Verfahren aus der Region Campinas und der Stadt São Paulo Prompt Injection fest. Es ging um mutmaßlich massenhafte, standardisierte Klagen eines einzelnen Anwalts. Die Befehle standen in weißer Schrift auf weißem Grund. Ein Richter erkannte auf Prozessbetrug, wies die Anträge ab und verhängte zehn Mindestlöhne direkt gegen den Anwalt.

Strafrechtlich nur angestoßen, keine Verurteilung berichtet

Strafrechtlich ist bislang nichts entschieden. Nach Angaben von Migalhas blieben die Gerichte auf der prozessualen Ebene und stützten sich auf Artikel 77 Paragraf 2 CPC. Im Fall des TRT-8 erhielten die beteiligten Anwältinnen eine Geldstrafe von R$ 84 mil. Die OAB ordnete ihre vorläufige Suspendierung an und eröffnete ein ethisch-disziplinarisches Verfahren.

Eine strafrechtliche Prüfung wurde bisher nur angeregt. STF und TJSP leiteten die Fälle an das MPF beziehungsweise an das Ministério Público weiter. Daraus folgt noch keine Anklage, erst recht keine Verurteilung.

Abweichend schildert ein Beitrag auf dev.to, zwei Anwälte hätten einen juristischen KI-Chatbot mit schädlichen Prompts gefüttert. Ein Bundesrichter habe daraus eine strafrechtliche Verurteilung gemacht. Der vorliegende Auszug nennt weder Gericht noch Aktenzeichen noch Datum. Die Behauptung bleibt daher unbestätigt. Auch die Systembeschreibung weicht ab: Der Beitrag spricht von einem Chatbot und einem Experiment. Die Primärquellen beschreiben dagegen Gerichts-KI, die Schriftsätze prüft, und den Versuch, Verfahren zu beeinflussen. Für die dev.to-Version liegt im Material keine Bestätigung vor.

Seit Mai 2026 mindestens vier Gerichte betroffen, Erkennungssysteme schlagen an

Der erste Fall am TRT-8 trat laut O Globo am 13. Mai auf. Befehle fanden sich demnach in mindestens vier Gerichten. Der STJ leitete ein Untersuchungsverfahren zu Fällen im eigenen System ein.

Migalhas nennt drei Fälle aus dem Mai: Parauapebas/PA, die Turma Recursal des TJ/PB und Campo Grande/MS. Die Anwälte räumten die Einfügung ein. Im TJ/MS wurden im Mai laut Migalhas unsichtbare Befehle in 28 Verfahren anerkannt.

Aufgedeckt haben die Fälle gerichtseigene Systeme: Galileu, das Monitoring des STJ und der KI-Kern des STF. Aus den USA meldet Conjur einen Parallelfall. Am 6. August 2026 entzog ein Richter in Connecticut einem Prozessbeteiligten die elektronische Einreichung.