Neues Benchmark: KI-Video-Detektoren scheitern an Krisenvideos

Benchmark zeigt: Detektoren scheitern an Krisenvideos

Ein neues Benchmark für die Erkennung KI-generierter Videos wurde veröffentlicht. Es evaluiert systematisch Detektoren und Generatoren anhand realistischer, krisenbezogener Videos, die Kriege, Katastrophen und öffentliche Notfälle darstellen. Die Ergebnisse zeigen: Aktuelle Detektoren generalisieren nicht auf diese Inhalte. Generalisierung bezeichnet die Fähigkeit eines Modells, auf neuen, ungesehenen Daten korrekt zu arbeiten, statt nur die Trainingsdaten auswendig zu lernen. Ohne Generalisierung können Detektoren nur die Videos erkennen, die sie bereits im Training gesehen haben, nicht aber neue Fälschungen. Das Benchmark zeigt, dass diese Fähigkeit bei Krisenvideos fehlt. Die getesteten Systeme wurden zwar auf allgemeinen Videodaten trainiert, können dieses Wissen aber nicht auf die spezifischen Merkmale von Krisenvideos übertragen. Dadurch entsteht eine erhebliche Generalisierungslücke, die die Erkennung von gefälschten Krisenvideos erschwert. Die Autoren haben Detektoren und Generatoren systematisch evaluiert und dokumentieren diese Lücke.

Soziale Verbreitung verschlechtert Erkennung

Die Studie zeigt zudem, dass die Zuverlässigkeit der Detektoren weiter abnimmt, wenn die Videos über soziale Medien verbreitet werden. Gleichzeitig belegt das Benchmark, dass aktuelle Video-Generatoren in der Lage sind, realistische Darstellungen von Kriegen, Katastrophen und öffentlichen Notfällen zu erzeugen. Diese Kombination – leistungsfähige Generatoren und schwächelnde Detektoren – schafft erhebliche Risiken für Fehlinformationen. Die abnehmende Erkennungsleistung bei sozialer Verbreitung bedeutet, dass gefälschte Krisenvideos in sozialen Netzwerken schwerer zu erkennen sind. Die abnehmende Erkennungsleistung bei sozialer Verbreitung ist ein zentrales Problem für die Bekämpfung von Fehlinformationen. Die Autoren weisen auf erhebliche Risiken für Fehlinformationen hin.

Forschungslücke bei Krisen-Benchmarks

Bestehende Benchmarks zur Erkennung KI-generierter Videos bieten bislang nur begrenzte Evidenz zur Leistung von Detektoren und Generatoren in Krisenszenarien. Ohne solche Benchmarks fehlen belastbare Daten, um die tatsächliche Leistung in diesem Bereich zu beurteilen. Das neue Benchmark schließt diese Lücke, indem es systematisch krisenbezogene Videos einbezieht und sowohl die Generierung als auch die Erkennung unter realistischen Bedingungen testet. Damit liefert es erstmals belastbare Daten zu einem Bereich, der für die Bekämpfung von Desinformation besonders relevant ist.