Drei Bewusstseinsforscher halten Bewusstsein in heutiger KI für „extraordinarily unlikely“

Seth, Block und Tononi halten Bewusstsein in heutiger KI für „extraordinarily unlikely“

Anil Seth (University of Sussex), Ned Block (New York University) und Giulio Tononi (University of Wisconsin–Madison) halten Bewusstsein in heutiger KI für „extraordinarily unlikely“. Jedenfalls gilt das für die digitalen, siliziumbasierten Systeme, auf denen heutige Technik beruht. So steht es in einem gemeinsamen Comment in der Fachzeitschrift Nature. Auslöser sind Stimmen wie der Biologe Richard Dawkins und der KI-Pionier Geoffrey Hinton, die KI-Systeme womöglich schon für bewusst halten.

Auffällig ist die Konstellation. Die drei vertreten konkurrierende Theorien des Bewusstseins. Sie forschen aus Sicht der experimentellen Neurowissenschaft, der theoretischen Neurobiologie und der Philosophie des Geistes. Ihre Aussage bleibt im Wahrscheinlichkeitsbereich. Ein prinzipielles „unmöglich“ lässt sich aus den vorliegenden Berichten nicht ableiten.

Den Originaltext hatte die Redaktion nicht vorliegen. Die Wiedergabe stützt sich auf Berichte über den Comment.

Kleinhirn und Sprachmodelle: Warum Rechnen allein kein Bewusstsein erzeugen soll

Die Autoren trennen Intelligenz von Bewusstsein. Als Bewusstsein gilt ihnen, was im traumlosen Schlaf oder unter Vollnarkose verschwindet und nach dem Aufwachen zurückkehrt. Kluges Verhalten ist demnach noch kein Hinweis auf ein Innenleben.

Als Beispiel nennen sie das Kleinhirn. Es enthält knapp vier Fünftel der Neuronen des Gehirns und leistet komplexe Berechnungen. Nach ihrer Darstellung trägt es aber nicht direkt zum bewussten Erleben bei. Rechenleistung erklärt somit nicht, warum Erleben entsteht.

Große Sprachmodelle nennen die Autoren „mirrors that reflect an image of our collective digitized past“. Weil sie das Material menschlicher Äußerungen zurückspiegeln, vermenschlichen Menschen sie, so die Lesart der Autoren. Ein Programm wie AlphaFold löse diesen Effekt dagegen nicht aus.

Damit verbunden ist eine Absage an den computationalen Funktionalismus. Dieser nimmt an, dass das Ausführen der richtigen Berechnungen für Bewusstsein genügt. „Brains are not — or at least not just — computers that are made of meat“, schreiben sie.

Vorsorge beim KI-Welfare nennen die Autoren „misguided“

Daraus ziehen die Autoren eine praktische Folgerung: Ein vorsorglicher Ansatz beim KI-Welfare wäre „misguided“. Falsch-positive Zuschreibungen von Bewusstsein seien wahrscheinlicher als falsch-negative, so ihre Begründung. Zudem könne die Beschäftigung mit KI-Welfare Fürsorge von Wesen abziehen, deren Leidensfähigkeit nicht in Frage stehe.

Als Bezugspunkte nennt der Comment laut Berichten eine in diesem Jahr veröffentlichte Anthropic-Studie. Darin beschreibt das Unternehmen interne Verarbeitungsmuster in Claude, die Eigenschaften bewusst zugänglicher Informationsverarbeitung ähneln. Einen Beleg für subjektives Erleben sieht Anthropic darin nach eigener Aussage nicht.

Außerdem verweisen die Autoren auf den Butlin-Bericht „Consciousness in Artificial Intelligence“. Dieser leitet aus neurowissenschaftlichen Theorien eine Checkliste mit 14 Indikatoren ab. Je mehr davon ein System erfüllt, desto stärker ist der Fall für mögliches Bewusstsein.