Fable-Anfragen zu Cyber und Biologie werden umgeleitet oder blockiert
Ein Supportartikel beschreibt den Fallback auf ein schwächeres Claude-Modell. In der API erscheint die Ablehnung als regulärer Response mit stop_reason „refusal“.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Die Safeguards von Claude Fable 5.2, 5.1 und 5 können Anfragen blockieren oder umleiten.
- Zum Fable-5-Launch war Claude Opus 4.8 das Fallback-Modell.
- Refusals erscheinen als normale Antwort mit stop_reason "refusal" und stop_details.category.
- Nach einem Refusal muss der Gesprächskontext zurückgesetzt werden, sonst folgen weitere.
- Entwickler sollen stop_reason prüfen, um Antwort, Fortsetzung, Wiederholung oder Modellwechsel zu wählen.
Fable-Anfragen zu Cyber und Biologie landen bei einem schwächeren Modell
Anfragen an Claude Fable können bei Cyber- und Biologie-Themen blockiert oder auf ein weniger leistungsfähiges Modell umgeleitet werden. Das steht in einem Supportartikel von Anthropic. Dort nennt das Unternehmen Fable 5.2, 5.1 und 5 „Mythos-Klasse-Modelle“. Der Grund: Ohne starke Safeguards ließen sich ihre Fähigkeiten für großangelegte Cyberangriffe oder Biowaffen missbrauchen. Die Schutzmechanismen leiten Antworten in bestimmten Bereichen deshalb um oder blockieren sie, gemäß Terms of Service und Usage Policy.
Die meisten blockierten Anfragen können laut Artikel eine Antwort eines weniger leistungsfähigen Modells erhalten, den sogenannten Fallback. Anthropic arbeitet nach eigenen Angaben an präziseren Safeguards. Sie sollen nur wirklich riskante Anfragen abfangen und weniger Fehlalarme auslösen. Angekündigt sind außerdem Abschnitte dazu, welche Sperren nicht mit dem Modell wechseln und wie sich das automatische Wechseln steuern lässt. Deren Inhalt liegt im vorliegenden Material nicht vor.
Der Mechanismus ist nicht neu. Schon zum Start von Fable 5 hatte Anthropic beschrieben, dass Anfragen zu bestimmten Themen von einem anderen Modell beantwortet werden, damals von Claude Opus 4.8. Die Safeguards seien konservativ eingestellt. Sie fingen manchmal harmlose Anfragen ab und lösten im Schnitt in weniger als 5 % der Sessions aus, so das Unternehmen.
In der API ist die Ablehnung ein regulärer Response
Für Entwickler beschreibt die API-Dokumentation dasselbe Verhalten technisch. Die Classifier von Fable 5.2, 5.1 und 5 sowie von Opus 5.5, Opus 5, Sonnet 5.5 und Haiku 5.5 können eine Anfrage ablehnen. Der Response ist dann kein Fehler, sondern trägt `stop_reason` mit dem Wert `refusal`. Der betroffene Richtlinienbereich steht in `stop_details.category`. Laut Doku lässt sich dieselbe Anfrage meist an ein anderes Claude-Modell schicken.
Beim Streaming erscheinen `stop_reason` und `stop_details` mit `category` und `explanation` im `message_delta`-Event. Als Beispielkategorie nennt die Dokumentation `cyber`. Nach einer Ablehnung muss der Gesprächskontext zurückgesetzt werden: den auslösenden Turn entfernen oder umformulieren oder den Verlauf leeren. Sonst folgen weitere Ablehnungen.
Entwickler sollten `stop_reason` in jeder Antwort prüfen, denn das Feld gehört zu jeder erfolgreichen Messages-API-Antwort. Davon hängt ab, ob sie die Antwort übernehmen, fortsetzen, wiederholen oder auf ein anderes Modell ausweichen.
Offen bleibt, welches Modell antwortet und welche Sperren gelten
Unklar ist, welches Modell im Wechsel in claude.ai aktuell antwortet. Der Supportartikel spricht nur von „a less capable model“, die API-Dokumentation von „another Claude model“ ohne festen Fallback. Beim Start von Fable 5 war es noch Opus 4.8. Die Abschnitte zu Sperren, die nicht mitwechseln, und zur Steuerung des Wechsels sind im Material abgeschnitten. Ob der Artikel neu erschienen oder nur aktualisiert wurde, lässt sich daraus nicht ableiten.



