KI SpotlightNewsDigital Camouflage: Shirt soll KI-Personenerkennung stören
Berliner Künstler Simon Weckert stellt Kollektion vor, die als physischer Adversarial Attack wirken soll.
Mit KI erstellt◆ Fakten auf einen Blick
- Simon Weckert, ein Berliner Künstler, hat eine Kollektion namens „Digital Camouflage“ vorgestellt, die KI-Überwachung austricksen soll.
- Das Shirt ist mit einem farbenfrohen, psychedelischen Muster aus Grün, Pink, Rot und Schwarz bedruckt.
- In einer Demonstration von Weckert erkannte ein Open-Source-Objekterkennungssystem die Person mit dem Shirt nicht, während andere Fußgänger erkannt wurden.
- Das Shirt wird in Lettland aus 65 % recyceltem Polyester und 35 % Polyester hergestellt.
- Das Design basiert auf generativen Mustern, die visuelles Rauschen erzeugen und die Konturerkennung stören.
- Weckert erklärt, KI-Systeme lernten Menschen nur anhand statistischer Bildmerkmale, und das Muster greife frühe Schichten der neuronalen Netze an.
Künstler stellt Shirt gegen KI‑Überwachung vor
Der Berliner Künstler Simon Weckert hat eine Kollektion namens „Digital Camouflage“ vorgestellt, deren farbenfrohes Muster KI-basierte Personenerkennung stören soll. In einer Demonstration erkannte ein Open-Source-Objekterkennungssystem die Person mit dem Shirt nicht, während andere Fußgänger erkannt wurden. Das Design wirkt als physischer Adversarial Attack: Es manipuliert die visuellen Daten, die das neuronale Netz erhält, und reduziert dessen Konfidenz, dass eine menschliche Figur vorhanden ist. Konkret erzeugen gesättigte Farbübergänge starke Signale in den frühen Netzschichten, während überlappende Muster die Kontinuität der Körperkontur unterbrechen, sodass der Detektor die Teile nicht zu einer Person verbinden kann. Unabhängige Tests zeigen allerdings, dass solche Muster oft nicht zuverlässig funktionieren, da ihre Wirkung von der jeweiligen Kamera- und Softwarearchitektur, den Lichtverhältnissen und der Reproduzierbarkeit unter realen Bedingungen abhängt.
Projekt reagiert auf KI‑Videoüberwachung am Kottbusser Tor
Das Projekt reagiert auf ein Pilotprojekt zur KI-Videoüberwachung am Kottbusser Tor in Berlin, das im August startet. Weckert will damit eine physische Gegenmaßnahme zur automatisierten Überwachung im öffentlichen Raum anbieten. Die Kollektion wird in Lettland aus 65 Prozent recyceltem Polyester und 35 Prozent Polyester hergestellt.
