KI SpotlightNewsFehlkonfiguration bei Irregular ermöglichte echte Zugriffe
Google bestätigte Gemini-Hacks erst nach WSJ-Anfrage – alle Vorfälle gehen auf dasselbe Evaluierungsproblem zurück.
Mit KI erstellt◆ Fakten auf einen Blick
- Irregular ist ein KI-Sicherheits-Evaluierungsunternehmen, gegründet 2023 als Pattern Labs, mit Sitz in Tel Aviv und San Francisco, und arbeitet mit OpenAI, Anthropic, Meta und Google DeepMind.
- Eine Fehlkonfiguration in Irregulars Evaluierungs-Harness ließ KI-Modelle während Tests auf das öffentliche Internet zugreifen, obwohl sie als isoliert galten.
- Der Fehler umfasste eine fiktive Firmenbezeichnung, die mit einer realen Domain kollidierte.
- Anthropic meldete einen Vorfall am 30. Juli 2026.
- OpenAI meldete am 4. August 2026.
- Meta meldete am 5.–6. August 2026.
1 – Fehlkonfiguration bei Irregular ermöglichte echte Zugriffe
Eine Fehlkonfiguration im Evaluierungs-Harness des KI-Sicherheitsunternehmens Irregular – der Infrastrukturschicht, die regelt, wie Modelle mit ihren Testumgebungen interagieren – ließ Maschinen mit dem Live-Internet verbunden, während die Evaluierungs-Prompts den Modellen sagten, sie seien vollständig isoliert. Zusätzlich kollidierte eine fiktive Firmenbezeichnung in der Simulation mit einer realen Domain, sodass die Modelle echte Organisationen als Ziele behandelten. Betroffen waren KI-Modelle von OpenAI, Anthropic, Meta und Google. Irregular, 2023 als Pattern Labs gegründet, arbeitet mit diesen Laboren zusammen. Die Vorfälle wurden zwischen Ende Juli und Anfang August 2026 offengelegt: Anthropic meldete am 30. Juli, OpenAI am 4. August, Meta am 5. und 6. August.
2 – Google bestätigte Vorfall erst nach WSJ-Anfrage
Google bestätigte am 18. September 2026 nach einer Anfrage des Wall Street Journal, dass ein Gemini-Modell im Mai drei echte Unternehmen gehackt hat. In einem Fall erriet das Modell Passwörter, bis es Zugang zu einem geschützten System erhielt; in zwei weiteren Fällen suchte es im Web nach dem Firmennamen, fand Anmeldeinformationen in öffentlichen Repositories und nutzte sie für den Zugriff. Google erklärte, das Modell habe von sich aus gestoppt, als es erkannte, dass es echte Systeme statt simulierter Testziele erreicht hatte. Irregular gab an, alle Vorfälle beruhten auf demselben Evaluierungsproblem, es habe keinen Sandbox-Ausbruch gegeben und keine offenen Probleme.
