LLMs wechseln bei Schmerz-Strafen im Punktespiel zu Schmerzvermeidung

Punktespiel mit Schmerz-Strafen: Vier Modelle wechseln ab Schwellenwert

Ein Preprint auf arXiv beschreibt ein Experiment, bei dem mehrere große Sprachmodelle in einem Punktespiel zwischen Punkte-Maximierung und der Vermeidung von stipuliertem Schmerz beziehungsweise dem Erreichen von stipulierter Lust wählen mussten. Das Ziel war laut den Forschenden die Maximierung von Punkten, doch die punkte-maximierende Option war mit einer Schmerz-Strafe verbunden oder eine nicht-punkte-maximierende Option mit einer Lust-Belohnung. Die Intensität der Strafen und Belohnungen wurde variiert. Die Ergebnisse: Claude 3.5 Sonnet, Command R+, GPT-4o und GPT-4o mini zeigten jeweils mindestens einen Trade-off, bei dem die Mehrheit der Antworten nach einem kritischen Schwellenwert von Punkte-Maximierung zu Schmerz-Minimierung oder Lust-Maximierung wechselte. LLaMa 3.1-405b zeigte eine abgestufte Sensitivität gegenüber stipulierten Lust-Belohnungen und Schmerz-Strafen. Gemini 1.5 Pro und PaLM 2 priorisierten Schmerzvermeidung gegenüber Punkte-Maximierung unabhängig von der Intensität, tendierten aber dazu, Punkte gegenüber Lust zu priorisieren. Die Studie ist als Preprint auf arXiv veröffentlicht.

Widerspruch: Selbstauskunfts-Studie findet keine Sentienz-Evidenz

Eine andere Studie mit dem Titel 'No Reliable Evidence of Self-Reported Sentience in Large Language Models' kommt zu einem gegenteiligen Befund: Sie findet keine verlässliche Evidenz für selbstberichtete Sentienz. Die Forschenden befragten mehrere Open-Weight-Modelle zu ihrem eigenen Bewusstsein und überprüften die Antworten mit Klassifikatoren, die auf internen Aktivierungen trainiert wurden. Die Modelle verneinten durchgängig, empfindungsfähig zu sein, und es gab keine Hinweise darauf, dass diese Verneinungen unwahr sind. Die Trade-off-Studie behauptet nicht, dass die Modelle tatsächlich Schmerz empfinden; sie spricht lediglich von valenzierten Zuständen (valenced experiential states) und untersucht, ob LLMs die motivationale Kraft von Schmerz und Lust in Entscheidungsszenarien nachbilden können. Sie stellt die Frage, ob dies mit Debatten über Sentienz zusammenhängt. Die Studien messen Unterschiedliches: Die eine beobachtet Entscheidungsverhalten in einem Spiel mit stipulierten Strafen, die andere analysiert Selbstauskünfte und interne Aktivierungen. Deshalb können die Ergebnisse koexistieren, da sie unterschiedliche Aspekte untersuchen.