KI SpotlightNewsDeepfakes & Desinformation
Wenn künstlich erzeugte Bilder, Stimmen und Videos unsere Wahrnehmung der Wirklichkeit verändern.
Mit KI erstelltGenerative KI erzeugt täuschend echte Bilder, Videos, Stimmen und Texte mit geringem Aufwand. Was früher spezialisierte Technik erforderte, entsteht heute teils in Minuten. Damit wächst das Risiko, dass manipulierte Inhalte zur Täuschung, Rufschädigung oder politischen Einflussnahme eingesetzt werden.
Das Problem besteht aus zwei Teilen: Menschen können gefälschte Inhalte für echt halten – und umgekehrt können Täter echte Aufnahmen pauschal als KI-Manipulation abtun. Dieses Phänomen wird als „Liar's Dividend“ bezeichnet.
Alle Beiträge zum Thema
Alle Beiträge →
Worum es geht
Deepfakes sind künstlich erzeugte oder gezielt manipulierte Medieninhalte, die reale Personen, Ereignisse oder Aussagen glaubwürdig nachbilden. Desinformation bezeichnet bewusst verbreitete falsche oder irreführende Informationen. KI erleichtert deren Produktion, Übersetzung, Variation und massenhafte Verbreitung. Zum Themenfeld gehören deshalb auch koordinierte Kampagnen, automatisierte Konten und personalisierte politische Botschaften.
Zentrale Entwicklungen
- KI-generierte Videos und Bilder, Voice Cloning und gefälschte Telefonanrufe
- Deepfake-Betrug in Unternehmen (CEO-Fraud), Erpressung, nicht einvernehmliche Darstellungen
- manipulierte politische Aussagen und Wahlbeeinflussung
- Erkennung synthetischer Inhalte, digitale Wasserzeichen und Herkunftsnachweise (Content Credentials, C2PA)
- gesetzliche Kennzeichnungspflichten und Moderation durch Plattformen
Rechtlicher Rahmen
Die Transparenzpflichten des EU AI Act (Artikel 50) werden ab dem 2. August 2026 verbindlich: Bestimmte Deepfakes und KI-generierte oder manipulierte Texte zu Themen von öffentlichem Interesse müssen gekennzeichnet werden. Anbieter generativer Systeme sollen zudem maschinenlesbare Markierungen ermöglichen. Am 10. Juni 2026 veröffentlichte die EU-Kommission dazu einen freiwilligen Code of Practice. Kennzeichnung allein verhindert aber weder betrügerische Nutzung noch die Verbreitung außerhalb regulierter Plattformen.
Unsere Einordnung
Mit steigender Qualität wird die Herkunft eines Inhalts wichtiger als der reine optische Eindruck. Technische Herkunftsnachweise und nachvollziehbare Quellen gewinnen an Bedeutung – ersetzen aber weder Detektion noch Medienkompetenz, denn Metadaten lassen sich entfernen. Gleichzeitig darf nicht jeder KI-generierte Inhalt pauschal als Desinformation gelten. Entscheidend sind Kontext, Täuschungsabsicht und mögliche Schäden; Technologie, Missbrauch und legitime kreative Anwendung müssen getrennt werden.
Medien-Echo
Deutschsprachige Berichterstattung
- Tagesspiegel Background – AI Act: Deepfake-Kennzeichnung ja, aber praxisgerecht
- SRD Rechtsanwälte – Kennzeichnungspflicht im AI Act: Was die EU-Leitlinie klarstellt
- Verbraucherzentrale – KI-Betrug: Deepfakes und Voice-Cloning erkennen
Internationale Berichterstattung
- Brookings – False claims of deepfakes, and actual deepfakes
- UNESCO – Deepfakes and the crisis of knowing
- Biometric Update – The Liar's Dividend: Deepfakes and the disinformation crisis
Diskussion und Debatte
Offizielle und fachliche Quellen
- Europäische Kommission – Code of Practice on Transparency of AI-Generated Content
- Europäische Kommission – FAQ zum Code of Practice (Fristen)
- EU AI Act – Transparency Rules (Artikel 50)
- Europol – Facing reality? Law enforcement and the challenge of deepfakes
- Europäisches Parlament (EPRS) – Scam calls in times of Generative AI
- Content Authenticity Initiative / C2PA – State of Content Authenticity 2026