Tests: OpenAIs Textwasserzeichen textGrain hält Bearbeitung und kurzen Texten oft nicht stand

Tests: textGrain hält Bearbeitung und kurze Texte oft nicht stand

Das Textwasserzeichen textGrain von OpenAI übersteht nachträgliche Bearbeitung und Texte unter 150 Wörtern oft nicht zuverlässig. So berichtet es IEEE Spectrum unter Berufung auf Tests. OpenAI hat textGrain im Oktober veröffentlicht, um dem neuen EU-Recht zu genügen, das die Kennzeichnung KI-erzeugter Texte verlangt.

Konkrete Testzahlen nennen wir nicht. Die Primärstudie mit Methodik sowie Erkennungs- und Falsch-Positiv-Raten war nicht auffindbar. Die Aussage stützt sich daher allein auf die Darstellung von IEEE Spectrum.

OpenAI räumt die Schwäche selbst ein und begrenzt den Detektorzugang

Am 5. Oktober 2026 stellte OpenAI seinen Ansatz zur Textherkunft unter dem AI Act vor. API-Kunden weltweit können sich für ausgewählte Modelle zu Text-Wasserzeichen anmelden (Opt-in). In der API ist die Funktion standardmäßig deaktiviert und wird zum Start kein globaler Standard. In den folgenden Wochen soll zusätzlich ein unsichtbares Wasserzeichen für geeignete, in der EU erzeugte ChatGPT- und Codex-Texte hinzukommen.

Technisch beeinflusst ein geheimer Schlüssel über pseudozufällige Werte die Auswahl des jeweils nächsten Tokens. So entsteht in der Wortwahl ein statistisches Muster, das ein Detektor mit demselben Schlüssel erkennen kann. Die Besonderheit von textGrain liegt laut Xiang Li, Mitautor des technischen Berichts, darin, dass das Verfahren Entropie als budgetierbare Ressource behandelt.

OpenAI selbst nennt kurze Passagen und spätere Änderungen als Schwächen. Deshalb steht der Detektor zunächst nur zugelassenen Forschenden und Expertenorganisationen offen. Die Grundaussage der Tests überrascht damit kaum.

Art. 50 verlangt Markierung, nennt aber keinen Wirksamkeitsmaßstab

Art. 50 Abs. 2 AI Act verlangt, dass KI-erzeugte Inhalte, auch Text, maschinenlesbar markiert und als künstlich erzeugt erkennbar sind. Die Pflichten gelten seit dem 2. August 2026. Für Systeme, die vor diesem Datum auf dem Markt waren, läuft für Art. 50 Abs. 2 eine Frist bis zum 2. Dezember 2026. Orientierung sollen der freiwillige Verhaltenskodex zur Transparenz und die nicht bindenden Leitlinien der Kommission geben.

Einen klaren Maßstab dafür, wie wirksam Wasserzeichen sein müssen, nennt der Rechtsrahmen laut IEEE Spectrum nicht. Ob textGrain die Pflicht erfüllt, bleibt damit offen. Eine Konformitätsbewertung nehmen wir nicht vor. Die Durchsetzung hat begonnen; für bestimmte Systeme hat das AI Office ausschließliche Befugnisse.

Eine Reaktion von OpenAI oder der EU auf die Testergebnisse ist im vorliegenden Material nicht belegt.