KI SpotlightNewsClaude erkennt Gewaltdrohung – Frau in Florida festgenommen
Anthropics Chatbot markierte eine Unterhaltung, ein menschlicher Prüfer meldete sie der Polizei.
Mit KI erstellt◆ Fakten auf einen Blick
- Carli Michelle Heller, 30, aus Bonita Springs, Florida, wurde festgenommen.
- Sie soll am 26. September geschrieben haben, sie wolle das Lee County Sheriff’s Office „shoot up“ (stürmen/erschießen).
- Claudes Sicherheitssysteme markierten die Unterhaltung; ein menschlicher Prüfer bewertete die Drohung als glaubwürdig und meldete sie den Strafverfolgungsbehörden.
- Sie wurde ohne Zwischenfälle in Gewahrsam genommen; ein Intelligence-Detective des Lee County Sheriff’s Office übernahm die Ermittlungen.
- Ihr wird die schriftliche Androhung von Gewalt nach Florida Statute 836.10 vorgeworfen, ein Verbrechen zweiten Grades.
- Anthropic darf Nutzerdaten in begrenzten Notfällen weitergeben, wenn es dies für notwendig hält, um Tod oder schwere Körperverletzung zu verhindern.
Carli Michelle Heller, 30, aus Bonita Springs, Florida, wurde festgenommen, nachdem Anthropics KI-Chatbot Claude eine Unterhaltung markiert hatte, in der sie laut Polizeibericht am 26. September schrieb, sie wolle das Lee County Sheriff's Office „shoot up". Claudes Sicherheitssysteme erkannten die Drohung, ein menschlicher Prüfer stufte sie als glaubwürdig ein und meldete sie den Strafverfolgungsbehörden. Die Festnahme erfolgte ohne Zwischenfälle.
Heller wird die schriftliche Androhung von Gewalt nach Florida Statute 836.10 vorgeworfen, ein Verbrechen zweiten Grades. Anthropic darf Nutzerdaten in begrenzten Notfällen weitergeben, wenn dies notwendig erscheint, um Tod oder schwere Körperverletzung zu verhindern. Heller gab an, Claude als Tagebuch genutzt zu haben. Sheriff Carmine Marceno warnte, Nutzer seien bei KI-Chatbots „niemals wirklich anonym". Eine Quelle nennt den Namen abweichend als Carly Michelle Geller.
