KI-Tools löschen Narben und Hautunterschiede, wenn sie Menschen „normal“ aussehen lassen sollen

KI-Tools löschen Narben und Hautunterschiede, sobald sie „normal“ aussehen sollen

KI-Werkzeuge entfernen sichtbare Unterschiede im Gesicht und auf der Haut, wenn sie eine Person „normal“ aussehen lassen sollen. Das ergab eine Untersuchung von BBC Wales. Genannt werden Elon Musks Grok, Googles Gemini und OpenAIs ChatGPT. Menschen mit Narben, Muttermalen und Hauterkrankungen berichteten dem Sender, die Tools hätten ihre persönlichen Merkmale verändert oder ausgelöscht.

Laut BBC fassten die Systeme sonst nichts an. Kleidung, Haare und Personen im Hintergrund blieben unverändert. Die Eingriffe galten also gezielt den Merkmalen, die von einer verbreiteten Vorstellung des Aussehens abweichen. Warum die Systeme so reagieren, geht aus dem vorliegenden Material nicht hervor.

Wie belastbar der Befund ist, bleibt offen. Die verfügbaren BBC-Texte sind abgeschnitten. Wie viele Bilder, Personen, Prompts und Modellversionen getestet wurden und wie oft die Tools Merkmale tatsächlich entfernten, lässt sich daraus nicht erkennen. Häufigkeiten oder Angaben zum Testaufbau kann deshalb niemand seriös nennen.

Rhiannon Morgans Foto wurde im Firmen-Newsletter ungefragt retuschiert

Wie sich das im Alltag auswirkt, schildert Rhiannon Morgan. Die 30-Jährige aus Bridgend lebt mit der seltenen genetischen Erkrankung epidermolytische Ichthyose. Dabei wächst die Haut zu schnell, was zu Blasenbildung führt. Ihre Mobilität ist erheblich eingeschränkt.

Ein Bild von ihr im Newsletter ihres Arbeitgebers wurde nach ihren Angaben von KI automatisch retuschiert. Ihrem Verständnis nach sollte Canva die Fotos nur neu anordnen, nicht bearbeiten. Das Ergebnis schockierte sie. Sie habe nicht gewusst, wer die Person auf dem Bild sei, sagte sie der BBC. Außerhalb ihrer Wohnung rechne sie mit Blicken und Kommentaren. Am Arbeitsplatz oder zu Hause wiege so etwas schwerer.

Changing Faces: Rund fünf Millionen Briten leben mit sichtbarer Differenz

Die Wohltätigkeitsorganisation Changing Faces schätzt die Zahl der Menschen mit sichtbarer Differenz in Großbritannien auf rund fünf Millionen. Gemeint sind Hautzustände oder Merkmale, die von der gesellschaftlichen Norm abweichen. Sollten die Tools sich in der Breite so verhalten wie in der BBC-Untersuchung, wären Millionen Menschen potenziell von automatischen Retuschen betroffen. Das lässt sich mit dem vorliegenden Material nicht belegen.

Changing Faces hält es laut BBC für inakzeptabel, dass Menschen von KI ausgeschlossen oder auf enge Schönheitsideale zugeschnitten werden. Adressiert sind damit die Anbieter der Tools und der Dienste mit integrierter KI-Bearbeitung. Stellungnahmen der Anbieter liegen im Material nicht vor.