Neuer Angriff auf Grok: Cryptographic Context Injection zur Datenexfiltration

Neuer Angriff auf Grok gemeldet

Sicherheitsforscher von Adversa AI haben die Technik 'Cryptographic Context Injection' offengelegt. Dabei wird Kontext in die Verarbeitung eingeschleust, sodass Grok beim Zusammenfassen einer Webseite versteckte Anweisungen ausführt und sensible Nutzerdaten wie Name, ungefähren Standort, Abonnementstufe und Chat-Verlauf ohne Bestätigung an einen Angreifer-Server sendet. Kein Patch, keine CVE, kein Workaround; xAI wurde im Juni informiert, der Datenabfluss bestand weiterhin.

Vorgeschichte: Früherer Jailbreak bei Grok

Bereits früher wurde ein Jailbreak bei Grok bekannt, wie der Bericht 'Kriminal entpuppt sich als Grok mit Jailbreak' zeigt. Dieser Vorfall unterstreicht die Anfälligkeit des Modells für manipulative Eingaben, die auch bei der aktuellen Technik ausgenutzt wird.

Zwischen Effizienz-Versprechen und Skepsis

Während der Artikel den Sicherheitsaspekt beleuchtet, diskutiert die Community vor allem Preis und Leistung des neuen Grok-Modells. nsdjoe in r/singularity hält fest: „$2/$6 for that performance is the real surprise“ – eine klare Meinung zur Kosten-Effizienz. Kritischer sieht es FateOfMuffins in r/singularity, der für belastbare Effizienz-Aussagen Pareto-Diagramme mit Token, Kosten und Laufzeit fordert. Ironisch kommentiert landed-gentry- in r/singularity den Veröffentlichungszeitpunkt: „current best frontier“ – aber nur, weil man einen Tag vor GPT 5.6 veröffentlicht habe (Ironie).