KI SpotlightNewsxAI verklagt erstmals Nutzer wegen CSAM-Erstellung mit Grok
67-jähriger Mann aus South Carolina soll KI für nicht-einvernehmliche Bilder genutzt haben und wurde bereits verhaftet
Mit KI erstelltxAI hat Klage gegen Terry Wayne Harwood eingereicht. Der 67-Jährige aus South Carolina soll mit dem Chatbot Grok nicht-einvernehmliche sexualisierte Bilder von Erwachsenen und Minderjährigen erstellt und verbreitet haben. Es ist die erste bekannte Klage des Unternehmens gegen einen Nutzer wegen der Erstellung illegaler Inhalte mit Grok. Laut xAI lud Harwood von Dezember 2025 bis Februar 2026 über zwei Konten harmlose Fotos hoch und forderte Grok auf, diese zu verändern. Dabei habe er Sicherheitsvorkehrungen umgangen. xAI gibt an, bei der Verhaftung Harwoods kooperiert zu haben, die bereits 2026 durch die Staatsanwaltschaft von South Carolina erfolgte. Das Unternehmen fordert Schadensersatz für Reputations- und Rechtskosten. Grok ist in X integriert und hatte um den Jahreswechsel 2025/2026 eine Funktion, die einen Deepfake-Skandal auslöste.
Grok, der Sündenbock und die Trainingsdaten
Während xAI den Nutzer als alleinigen Täter darstellt, fragt u/maaaatttt_Damon in r/technology zu Recht, ob das Modell nicht selbst mit CSAM-Material trainiert wurde – sonst wäre die Erstellung kaum möglich. Die Klage wirkt für viele wie ein Ablenkungsmanöver: u/ares623 in r/BetterOffline bringt es sarkastisch auf den Punkt: „Ich will nur das ganze Geld und keine Verantwortung. Ist das zu viel verlangt?“ Und u/coporate in r/technology zieht einen bitteren Vergleich: „Tesla verklagt Autobesitzer fürs Fahren.“
