DiSCO: Black-box Verteidigung gegen schädliche Bildgenerierung

DiSCO: Black-box Verteidigung gegen schädliche Bildgenerierung

Wie aus dem Abstract einer neuen Veröffentlichung hervorgeht, ist DiSCO ein black-box, zero-shot prompt-level Verteidigungsansatz für Text-zu-Bild-Modelle. Der Ansatz verwendet distribution-guided suffix expansion und contrastive scoring, um schädliche Bildgenerierung zu reduzieren, ohne das zugrundeliegende Modell zu verändern. Black-box bedeutet, dass für die Verteidigung kein Zugriff auf die internen Parameter oder Gradienten des Modells erforderlich ist; zero-shot bedeutet, dass keine zusätzlichen Trainingsdaten für die Verteidigung benötigt werden. Stattdessen arbeitet DiSCO auf der Ebene der Eingabeaufforderung: Es erweitert den Prompt durch gezielte Suffixe, die anhand der Verteilung möglicher Bildausgaben ausgewählt werden, und bewertet die Ergebnisse kontrastiv, um schädliche Inhalte zu unterdrücken. Die distribution-guided suffix expansion wählt dabei Zusätze zum ursprünglichen Prompt aus, die auf der statistischen Verteilung der Modellausgaben basieren, um die Wahrscheinlichkeit schädlicher Bildinhalte zu senken. Das contrastive scoring vergleicht anschließend die generierten Kandidaten hinsichtlich ihrer Sicherheit und bevorzugt unbedenkliche Ergebnisse. Dadurch bleibt das generative Modell unverändert, was den Einsatz bei bereits deployed Modellen erleichtert. Da DiSCO nur auf der Eingabeebene agiert, lässt es sich ohne Neu-Training in bestehende Pipelines integrieren und eignet sich für API-bereitgestellte Modelle. Die Autoren beschreiben den Ansatz als neuen Beitrag zur Absicherung von Text-zu-Bild-Systemen, der ohne Modellmodifikation auskommt und eine Lücke gegenüber bisherigen white-box Verteidigungen schließt.

Sicherheitsbedenken und Grenzen bisheriger Verteidigungen

Text-zu-Bild-Generierungsmodelle werfen erhebliche Sicherheitsbedenken auf, insbesondere die Generierung von Not-Safe-For-Work-Inhalten wie Gewalt und Nacktheit. Diese Risiken werden durch red-teaming adversarial attacks verschärft, bei denen Angreifer gezielt Prompts konstruieren, um Sicherheitsfilter zu umgehen. Bisherige Verteidigungsansätze operieren überwiegend unter white-box Annahmen, das heißt, sie setzen Zugriff auf die internen Parameter, Gradienten oder Architekturdetails des Modells voraus. In der Praxis ist ein solcher Zugriff bei vielen bereits eingesetzten Modellen, etwa bei kommerziellen APIs, oft nicht gegeben. DiSCO adressiert diese Lücke, indem es als black-box Verteidigung ohne Modellzugriff auskommt und auf Prompt-Ebene ansetzt. Damit erweitert es das Spektrum möglicher Schutzmaßnahmen für Text-zu-Bild-Systeme, die außerhalb kontrollierter Umgebungen betrieben werden.