MIT-Historiker sieht KI-Halluzinationen im absichtlich eingebauten Zufall früher Pioniere

Lindquist sieht die Wurzeln der Halluzinationen in früher Forschung

Der MIT-Historiker Benjamin Lindquist führt heutige KI-Halluzinationen auf eine bewusste Entscheidung früher Computerpioniere zurück. Laut MIT News erscheint sein neues Paper in der Fachzeitschrift 'Past and Present'. Darin schreibt er, die Pioniere hätten Zufall absichtlich in Algorithmen eingebaut, die Probleme eigentlich deterministisch lösen sollten. Das Ziel sei gewesen, kreatives Denken nachzuahmen. Lindquist leitet daraus einen grundsätzlichen Zielkonflikt ab: Sobald Maschinen menschliches Verhalten nachbilden sollen, lassen sich Kreativität und Vorhersagbarkeit nicht vollständig vereinen.

Im Interview mit MIT News verweist er auf eine lange Tradition. Wissenschaftler und Künstler hielten Zufall oft für wichtig für Entdeckung und Kreativität. Kreativität setzten sie mit unerwarteten Sprüngen der Logik oder mit traumartigen Zuständen gleich, die einen neuen Blickwinkel öffnen. Aus dieser Vorstellung erklärt Lindquist, warum Ingenieure einer rechnenden Maschine etwas Unberechenbarkeit mitgeben wollten.

Nach Lindquists eigener Darstellung, wie sie sein MIT-Profil wiedergibt, brachten die Experimente der 1950er-Jahre mit Zufall, Fehlern und sorgloser Konstruktion die ersten 'zufälligen' neuronalen Netze hervor, allen voran die Perzeptronen. Diese gelten als Vorläufer heutiger großer Sprachmodelle (LLMs). Halluzinationen seien damals ein Feature gewesen, kein Fehler.

Wer Lindquist ist und woran er forscht

Lindquist ist Assistant Professor in der History Section des MIT. Seine Stelle ist geteilt zwischen dem Schwarzman College of Computing und dem Fachbereich EECS. Zudem ist er Principal Investigator im Laboratory for Information and Decision Systems. Er beschreibt sich als Historiker des Computings und der KI. Sein erstes Buch, 'The Feeling Machine', erscheint bei der University of Chicago Press. Das zweite Projekt, 'The Irrational Computer', fragt, warum Computerwissenschaftler Mitte des 20. Jahrhunderts ihre Systeme bewusst weniger 'rational' machen wollten.

Was die Quellenlage hergibt und was offen bleibt

Die Darstellung stützt sich auf das Interview bei MIT News, Lindquists MIT-Profilseite und eine Zweitzusammenfassung auf hyper.ai. Das Paper selbst lag nicht vor. Die Zweitquelle nennt weitere Details, die sich nur mit Vorsicht wiedergeben lassen. Demnach habe der Bell-Labs-Ingenieur John Pierce in den 1950er-Jahren vorgeschlagen, Mathematik könne Unordnung in die Kunst bringen, um Klischees zu durchbrechen. Neuronale Netze seien dafür genutzt worden, weil sie unerwartete Ausgaben lieferten. Das stehe im Kontrast zur symbolischen KI.

Offen bleibt, wie belastbar der Zusammenhang zwischen früher Zufallsinjektion und heutigen LLM-Halluzinationen ist. Ohne Paper lässt sich das nicht prüfen. Eine unabhängige Einordnung durch andere Fachleute liegt nicht vor. Ebenso lässt sich dem vorliegenden Material nicht entnehmen, ob Entwickler daraus praktische Konsequenzen ziehen müssten. Bislang handelt es sich um Lindquists eigene historische Deutung.