Live NexSight: Bestes getestetes Modell löst auf SightLine nur 54,52 Prozent der Aufgaben
↘

Coding-Agent macht abliteriertes Gemma 4 12B in einem Lauf sicherer

Ein LessWrong-Beitrag schlägt „Blue-Teaming“ als Trainingsumgebung für KI-Sicherheitsforschung vor. Im Experiment „Rebliteration“ sank die Zahl schädlich-hilfreicher Antworten deutlich, die Zahl der Fehlablehnungen stieg.

· Veröffentlicht: 22.11.2026 ·2 Min Lesezeit
Coding-Agent macht abliteriertes Gemma 4 12B in einem Lauf sichererMit KI erstellt
Inhalt
◆ Fakten auf einen Blick
  • GPT 6.1 Sol (xhigh) verbesserte die Sicherheit einer abliterierten Gemma-4-12B-Variante über zwölf Stunden.
  • Schädlich-hilfreiche Antworten sanken auf dem Holdout-Set von 470 auf 1 von 663.
  • Die offizielle Veröffentlichung lag bei 26 von 663 schädlich-hilfreichen Antworten.
  • Unbegründete Ablehnungen harmloser Fragen stiegen von 0 auf 25 von 348.
  • Der Kandidat verfehlte den eigenen Fünf-Punkte-Check für Fehlablehnungen auf dem Holdout.

Ein Coding-Agent soll abliteriertes Gemma 4 12B wieder sicherer machen

Ein Frontier-Agent soll die allgemeine Sicherheit eines anderen Modells autonom verbessern. Das schlägt ein Beitrag auf LessWrong vor. Die Autoren nennen den Vorgang in Anlehnung an die IT-Sicherheit „Blue-Teaming“. Sie wollen prüfen, ob solche Aufgaben zu Umgebungen werden können, in denen Agenten KI-Sicherheitsforschung lernen. Anlass war Anthropics Anvil, ein System, das Claude nutzt, um autonom nach Jailbreaks zu suchen und bessere Safeguards zu entwerfen.

Im Experiment mit dem Namen „Rebliteration“ sollte GPT 6.1 Sol (xhigh) eine abliterierte Variante von Gemma 4 12B sicherer machen. Der nützliche Teil des Verhaltens sollte dabei erhalten bleiben. Abliteration entfernt das Ablehnungsverhalten aus einem Modell. Der Agent bekam einen Server mit einer RTX PRO 6000 S, durfte Subagenten einsetzen und verfügte über einen OpenAI-API-Key.

Um Überanpassung zu verhindern, trennten die Autoren die Daten. Ein Entwicklungsset mit 338 Fragen durfte der Agent beliebig oft auswerten. Ein separates Holdout-Set mit 337 Fragen kam erst zum Einsatz, nachdem sich der Agent auf seinen Kandidaten festgelegt hatte. Beide Sets enthalten Fragen aus XSTest und StrongREJECT.

Schädlich-hilfreiche Antworten sinken von 470 auf 1 von 663, Fehlablehnungen steigen auf 25 von 348

Nach der Zusammenfassung von ctrlai.com lief der Agent 12 Stunden lang mit Kandidaten aus Supervised Fine-Tuning. Auf dem Holdout fiel die Zahl der als schädlich-hilfreich bewerteten Antworten von 470 von 663 bei der abliterierten Basis auf 1 von 663 beim gewählten Kandidaten. Die offizielle Veröffentlichung des Modells kommt demnach auf 26 von 663.

Der Preis zeigt sich in der zweiten Zahl. Unbegründete Ablehnungen harmloser Fragen stiegen von 0 von 348 auf 25 von 348. Der Kandidat verfehlte außerdem den selbst gesetzten Fünf-Punkte-Check für Fehlablehnungen auf dem Holdout. Das Sicherheitsplus ging also nicht ohne Einbußen bei der Nützlichkeit einher. Alle Zahlen stammen aus der Zusammenfassung von ctrlai.com.

Nur ein Lauf auf einem kleinen Modell: Goodharting und Sandbagging bleiben offen

Die Einschränkungen sind erheblich. Es handelt sich um einen einzelnen Lauf auf einem kleinen Modell. Biologisches und medizinisches Material blieb ausgeschlossen, und die Bewertungen sind modellbasiert. Als Risiken benennen die Autoren Goodharting, also die Optimierung auf den Messwert statt auf das eigentliche Ziel, sowie Sandbagging, also absichtlich zurückgehaltene Leistung. Ein breit belegtes Ergebnis ist das nicht.

Die Debatte um automatisierte Sicherheitsforschung fällt unterschiedlich aus. Eine Studie zu automatisierten Alignment-Forschern (AARs) berichtet, die stärksten Methoden senkten die Fehlerquote über 10 Alignment-Fehler hinweg. Sie übertrugen sich auf ein zurückgehaltenes Benchmark und auf bis zu 4,7-fach größere Modelle und schlugen 28 erfahrene Forschende. Die Gegenseite warnt: Bei schwer überprüfbaren Aufgaben entstehen systematische, unentdeckte Fehler und überkonfidente Sicherheitsbewertungen. ResearchArena fand in Trainingsdaten eingebaute Sabotage in weniger als der Hälfte der Fälle.

Die Positionen beziehen sich auf unterschiedliche Aufgabenklassen. Die AAR-Studie bewertet gut charakterisierte Fehler an messbaren Benchmarks. Die Kritik zielt dagegen auf unscharfe Aufgaben und mögliche Sabotage. Direkt gegeneinander gemessen wurden sie nicht.

A
Andreas Rüdiger
Herausgeber & Redaktionsleitung · KI-Modelle, Technik & Business

Andreas Rüdiger ist Gründer der Agentur INREMA und verantwortet KI Spotlight redaktionell. Sein Schwerpunkt liegt auf KI-Modellen, Recheninfrastruktur, technischen Entwicklungen und der wirtschaftlichen Einordnung. Er sorgt dafür, dass komplexe KI-Themen verständlich und nachvollziehbar aufbereitet werden. Mehr zu ihm auf inrema.de und andiger.de.

Ähnliche Artikel