KI SpotlightNewsUniForget soll Konzepte in Bildgenerierung und Bilderkennung zugleich löschen
Ein Paper auf Hugging Face stellt den Benchmark UUBench und die Methode UniForget vor; bislang liegt nur der Abstract mit Autorenangaben vor
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Die Autoren führen den diagnostischen Benchmark UUBench ein: 30 Zielkonzepte, 60 semantisch verwandte Nachbarkonzepte.
- Einzelpfad-Methoden erzielen laut Autoren nur begrenztes gemeinsames Vergessen.
- UniForget erreicht gemeinsame Vergessensraten von 80,0 % auf BAGEL-7B-MoT und 92,7 % auf Janus-Pro-7B.
- Laut Autoren übertrifft UniForget repräsentative Baselines.
- Die Autoren berichten Zielkonflikte zwischen gemeinsamem Vergessen und dem Erhalt anderer Fähigkeiten.
UniForget soll Konzepte in Generierung und Erkennung zugleich löschen
Ein auf Hugging Face veröffentlichtes Paper untersucht Concept Unlearning über beide Pfade vereinheitlichter multimodaler Modelle (UMMs). Diese Modelle verbinden Bildgenerierung mit visuellem Verstehen. Die Autoren fragen, ob bisherige Einzelpfad-Methoden ausreichen, um ein Zielkonzept in beiden Pfaden zu unterdrücken. Das Modell soll das Konzept weder erzeugen noch in Eingabebildern erkennen, andere Fähigkeiten aber behalten.
Dafür führen die Autoren UUBench ein, einen diagnostischen Benchmark mit 30 Zielkonzepten und 60 semantisch verwandten Nachbarkonzepten. Als Methode schlagen sie UniForget vor. Laut Abstract liegt das Neue in der gemeinsamen Betrachtung beider Pfade (cross-pathway).
Einschränkung: Geprüft werden kann bislang nur der Abstract. Alle Angaben stammen von den Autoren und sind nicht unabhängig überprüft.
Einzelpfad-Methoden vergessen nur in einer Richtung, UniForget erreicht 80,0 und 92,7 Prozent
Nach Angaben der Autoren vergessen die untersuchten Einzelpfad-Methoden nur begrenzt gemeinsam. Generierungsseitige Editoren unterdrücken die Erzeugung des Zielkonzepts stark. Im visuellen Verstehen bewirken sie dagegen nur begrenztes Vergessen. Verstehensseitige Baselines leisten im eigenen Pfad kaum substanzielles Vergessen. Auch die direkte Kombination beider Ansätze liefere laut Autoren nur begrenztes gemeinsames Vergessen.
Für UniForget geben die Autoren gemeinsame Vergessensraten von 80,0 Prozent auf BAGEL-7B-MoT und 92,7 Prozent auf Janus-Pro-7B an. Damit übertreffe die Methode nach eigener Darstellung repräsentative Baselines. Zugleich berichten die Autoren von Zielkonflikten zwischen gemeinsamem Vergessen und dem Erhalt anderer Fähigkeiten. Wie groß diese Einbußen ausfallen, geht aus dem Abstract nicht hervor.
Zu Methode und Experimenten lassen sich auf dieser Basis keine weiteren Aussagen treffen. Ob die Zahlen einer Überprüfung standhalten, bleibt offen.
Verwandte Arbeiten: Multi-Concept-Unlearning bisher nur für Diffusionsmodelle, Relearning-Angriffe als offene Robustheitsfrage
Bestehende Arbeiten zum Löschen mehrerer Konzepte, etwa Forget-It-All, richten sich an Text-zu-Bild-Diffusionsmodelle. Vereinheitlichte Modelle mit Generierung und Verstehen nehmen sie nicht in den Blick.
Zur Robustheitsfrage liefert eine andere Arbeit Kontext. Sie beschreibt Over-Unlearning, also Kollateralschäden an Daten in der Nähe des Vergessenen, sowie einen Prototypical Relearning Attack. Dieser stellt vergessenes Wissen mit wenigen Beispielen wieder her. Ein Befund zu UniForget ist das nicht. Ob die Methode solchen Angriffen standhält, geht aus dem Abstract nicht hervor.
