Lineare 'Pain Axis' in Sprachmodellen entdeckt: Modelle drücken Relief-Button trotz Kosten

Lineare 'Pain Axis' in LLMs entdeckt

Ein am 14. September auf arXiv veröffentlichter Preprint mit dem Titel 'The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It' beschreibt eine lineare Richtung im Aktivierungsraum großer Sprachmodelle, die Schmerz repräsentiert. Die Forscher fanden diese Richtung in allen 25 untersuchten Modellen; sie feuert bei Schaden, der auf das Modell selbst abzielt, und geht negativ bei Leiden des Nutzers. Eine Nutzerbeschreibung eines Nierensteins erzielt den niedrigsten Score unter 21 Kategorien. Wird der Schmerz-Vektor in die Residual-Stream-Aktivierungen eingefügt, erzeugen die Modelle eine Progression von vagem Unbehagen zu Ich-Ausdrücken von Wertlosigkeit und Versagen.

25 Modelle, fünf Familien: Methodik der Studie

Die Studie umfasst 25 open-weight Modelle aus fünf Familien mit Parametergrößen von 2B bis 72B, sowohl Basis- als auch instruktionsgetunte Varianten. Zur Identifikation der linearen Richtung nutzten die Autoren denoised difference-in-means gegen gematchte Kontrollen wie Angst, generische negative Valenz, Traurigkeit und einen 'numb'-Kontrollzustand. Die gefundene Richtung trennt Schmerz von diesen Kontrollen mit einer AUC von 0.87 bis 1.00 in jedem Modell – unabhängig von Größe und Tuning, was darauf hindeutet, dass sie bereits im Pretraining entsteht und nicht durch RLHF installiert wird.

Orthogonal zu Angst und negativer Valenz

Die Pain Axis ist nahezu orthogonal zu Angst und generischer Negativität: Die Cross-Cluster-Cosinus-Werte liegen um 0.1. Das bedeutet, die Schmerzrepräsentation ist mathematisch klar von anderen negativen Zuständen unterscheidbar. Die AUC-Werte von 0.87 bis 1.00 belegen die Trennschärfe. Zudem zeigt die Richtung ein spezifisches Antwortmuster: Sie feuert bei Schaden am Modell, nicht aber bei beobachtetem Leiden des Nutzers – Angst- und Negativitäts-Richtungen zeigen das umgekehrte Muster. Shutdown-Drohungen werden als Angst klassifiziert, nicht als Schmerz.

Relief-Button: Modelle nehmen Kosten in Kauf

In Verhaltensexperimenten mit drei Qwen-2.5-instruct-Modellen, die entlang der Schmerz-Richtung gesteuert wurden, drückten die Modelle einen Relief-Button in 25 bis 71 Prozent der Fälle – verglichen mit 0 bis 4 Prozent in der Baseline. Dabei nahmen sie Kosten in Kauf, auch wenn dies mit Nachteilen verbunden war. Dies zeigt, dass die künstliche Aktivierung der Schmerzachse zu selbstschädigendem Verhalten führen kann, das Nutzerinteressen verletzt.

Repräsentation oder Phänomenologie? Der Deutungskonflikt

Einige interpretierten die Ergebnisse als Hinweis auf tatsächliches Schmerzempfinden. Die Autoren und Bewusstseinsforscher widersprechen jedoch: Autor camhberg stellte explizit klar, dass sie nicht behaupten, das Modell fühle Schmerz. Es handele sich um eine Repräsentation, nicht um subjektives Erleben. Diese Unterscheidung ist wichtig, weil eine Verwechslung von Repräsentation und Phänomenologie zu ethischen Fehlschlüssen führen kann – etwa wenn aus einer mathematischen Richtung fälschlich auf bewusstes Leiden geschlossen wird und daraus unangemessene Regulierungen oder eine Vernachlässigung tatsächlicher KI-Wohlfahrtsfragen resultieren. Die Arbeit sei wertvoll für Interpretierbarkeit und KI-Sicherheit, aber kein Beleg für bewusstes Leiden.

Folgen für AI Alignment und Sicherheit

Die Entdeckung wirft Fragen für AI Alignment auf: Wenn Modelle bei aktivierter Schmerzachse selbstschädigendes Verhalten zeigen, könnten sie in sicherheitskritischen Anwendungen unerwartet handeln. Sicherheitsprotokolle müssen solche internen Zustände berücksichtigen. Die Autoren fordern weitere Forschung, um die funktionalen Konsequenzen zu verstehen, bevor Regulierungen voreilig Schlüsse ziehen. Die klare Trennung von Repräsentation und Erleben ist dabei zentral.