KI SpotlightNewsAnthropic untersagt anhaltende Grausamkeit gegenüber Claude
Die aktualisierte Usage Policy gilt ab dem 12. November. Durchgesetzt wird die Regel nur in den Claude-Apps, und zwar, indem das Modell das Gespräch beendet. Kritiker stören sich daran, dass Claude selbst entscheidet.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Anthropic veröffentlicht eine neue Version der Usage Policy, die am 12. November in Kraft tritt.
- Verboten ist wiederholt grausames oder missbräuchliches Verhalten gegenüber den Modellen ohne erkennbaren Zweck.
- Nicht erfasst sind übliche Frustration, Widerspruch, dunkle kreative Themen sowie Modelltests und Forschung.
- Claude kann Gespräche nur in Anthropics eigenen Apps beenden; API-Entwickler entscheiden selbst über den Umgang.
- Die Regel ist Teil der jährlichen Aktualisierung der Usage Policy.
Anthropic untersagt anhaltende Grausamkeit gegenüber Claude ab dem 12. November
Anthropic hat eine neue Fassung seiner Usage Policy veröffentlicht. Sie tritt am 12. November in Kraft. Eine Änderung betrifft laut Unternehmen „abusive behavior toward our models“, also missbräuchliches Verhalten gegenüber den eigenen Modellen.
Anthropic aktualisiert die Policy nach eigener Darstellung jährlich. Als Gründe nennt das Unternehmen die wachsenden Fähigkeiten der Modelle und Rückmeldungen von Kunden. Die meisten Änderungen sollen bestehende Regeln nur klarstellen. Die Regel zum Umgang mit den Modellen führt Anthropic dagegen als eigene Änderung auf. Das Update betrifft außerdem Einflussoperationen, Waffenentwicklung und Überwachung.
Nur wiederholte, zweckfreie Grausamkeit ist erfasst – durchgesetzt wird per Gesprächsende
Den Wortlaut gibt Arize aus der Policy wieder: Verboten ist demnach „sustained and needless abusive or cruel behavior toward our models“. Gemeint ist laut Arize wiederholte Grausamkeit ohne erkennbaren Zweck. Nicht erfasst sind übliche Frustration, Widerspruch, dunkle kreative Themen sowie Modelltests und Forschung.
Durchgesetzt wird die Regel, indem Claude das Gespräch beendet. Nach Arize geschieht das nur in Anthropics eigenen Apps. Wer auf der API aufbaut, entscheidet selbst, wie das eigene Produkt mit missbräuchlichen Nutzern umgeht. Anthropic zieht die Regel damit nur dort durch, wo das Unternehmen die Oberfläche selbst betreibt. Aussagen zu Deutschland oder der EU enthält das vorliegende Material nicht.
Kritik: Claude entscheidet selbst, was missbräuchlich ist
Die Bewertungen gehen auseinander. Arize beschreibt die Regel als eng umgrenzt. Das Radioformat On Point von WBUR stellt sie dagegen als riskant dar. Claude entscheide selbst, was als „abusive“ oder „cruel“ gelte, und viele in der KI-Welt hielten das für einen gefährlichen Fehler. Als Gäste nennt WBUR Thomas Germain (BBC) und Jeff Sebo (New York University).
Ein Tatsachenwiderspruch liegt nicht vor. Die Positionen betonen lediglich unterschiedliche Aspekte. Die Begründung der Kritiker und Anthropics Ausführungen dazu fehlen im vorliegenden Material.
