San Francisco zwingt Apple und Google zur Entfernung von 13 Nudify-Apps

San Francisco fordert Entfernung von 13 Nudify-Apps

David Chiu, Stadt-Anwalt von San Francisco, hat Apple und Google per Unterlassungsaufforderung aufgefordert, 13 KI-gestützte Nudify-Apps aus ihren App Stores zu entfernen. Die Schreiben, über die Wired berichtete, wurden am Donnerstag versandt. Die Apps ermöglichen es, mithilfe von KI nicht-einvernehmliche Nacktbilder zu erstellen, indem sie Kleidung digital entfernen oder Gesichter in explizite Darstellungen einfügen. Chiu wirft den Unternehmen vor, durch das Hosting und die Monetarisierung dieser Apps gegen kalifornisches Recht zu verstoßen. Die Stadt fordert, die Verbreitung der schädlichen Technologie zu unterbinden und die Geschäftsbeziehungen zu den App-Entwicklern abzubrechen. Die betroffenen Apps waren sowohl im Apple App Store als auch im Google Play Store verfügbar.

Vorwurf der Beihilfe zu Deepfake-Pornografie

Die Stadt wirft Apple und Google vor, durch Hosting und Monetarisierung der Apps gegen kalifornisches Recht zu verstoßen, das die wissentliche Unterstützung nicht-einvernehmlicher Deepfake-Pornografie unter Strafe stellt. Konkret gehe es um wissentliche Unterstützung oder leichtfertige Beihilfe zur Erstellung solcher Bilder. Die Unternehmen hätten die Apps trotz bekannter Rechtslage weiterhin angeboten und damit Geld verdient. Die Unterlassungsaufforderungen betonen, dass die Tech-Konzerne eine aktive Rolle bei der Verbreitung spielen, und fordern, die Geschäftsbeziehungen zu den Entwicklern der Apps abzubrechen. Die Schreiben warnen, dass sie gegen Gesetze verstoßen, die Dienste zur Erstellung nicht-einvernehmlicher Deepfake-Pornografie verbieten. Die Stadt fordert, diese Unterstützung unverzüglich zu beenden.

Konkrete Gesetze und Forderungen

Die rechtliche Grundlage bilden zwei kalifornische Gesetze: Das kalifornische Strafrecht kriminalisiert jede Handlung, die wissentlich die Erstellung nicht-einvernehmlicher Deepfake-Pornografie erleichtert oder leichtfertig dazu Beihilfe leistet. Ein 2025 verabschiedetes Gesetz erlaubt Opfern zudem zivilrechtliche Klagen gegen Drittanbieter, die solche Inhalte ermöglichen, und sieht Schadensersatz vor. Die Stadt betont, dass die Unternehmen trotz klarer Rechtslage die Apps weiter hosten und Einnahmen erzielen. Die Schreiben fordern Apple und Google auf, die Verbreitung zu unterbinden und nicht länger von der schädlichen Technologie zu profitieren.

Konkrete behördliche Anordnung

Die Unterlassungsaufforderungen stellen eine konkrete behördliche Anordnung dar, die Apple und Google zur Entfernung der Nudify-Apps zwingt. Die Stadt ergreift damit eine verbindliche rechtliche Maßnahme gegen die Verbreitung von Deepfake-Pornografie über die App-Stores.

Zwischen Ahnungslosigkeit und Regulierungswut

Während manche Nutzer wie GooseInternational66 in r/apple von der Existenz solcher Apps überrascht sind, zeigt der Kommentar von Serious--Vacation, dass Strafverfolger schon länger mit ähnlichen Technologien zu kämpfen haben – wobei es sich heute um schwer kontrollierbare, lokal lauffähige KI-Tools handelt. SirensToGo kommentiert ironisch: „Ein Führerschein? Was kommt als Nächstes, eine Lizenz zum Toasten im eigenen Toaster?“, um dann auf den fehlenden Sinn für Nuancen in der Regulierung hinzuweisen. Die Debatte zeigt, wie schwierig es ist, mit generativer KI Schritt zu halten – und dass einfache Verbote oft an der Komplexität der Technologie scheitern.