MIT-Ökonom Eric So warnt vor kognitiver Verkümmerung durch KI – die Belege sind bislang dünn

MIT-Ökonom So warnt: Wer das Denken auslagert, verlernt es

Der MIT-Ökonom Eric So warnt davor, dass intensive KI-Nutzung das Denken schwächen kann. Erschienen ist sein Buch „The Collision: What AI Does to Us“ bei W. W. Norton, MIT News hat dazu ein Q&A veröffentlicht. So ist Sloan Distinguished Professor of Global Economics and Behavioral Science an der MIT Sloan School of Management. Laut MIT News forscht er seit Langem zu Finanzmärkten und Verhalten und befasst sich damit, wie neue Werkzeuge und Informationen Entscheidungen beeinflussen.

Seine These lautet: Starke KI-Nutzung kann zu einer Art kognitiver Verkümmerung führen. Menschen entwickeln dann grundlegende Denkfähigkeiten nicht oder behalten sie nicht. Den Nutzen bestreitet So nicht. Er erkennt an, dass KI Arbeit beschleunigt und in Teilbereichen nützliche Spezialwerkzeuge hervorgebracht hat. Sein Einwand richtet sich gegen ein zu breites Verlassen auf die Technik.

Als Beispiel dient unter anderem eine Analyse von Anthropic: Demnach waren etwa die Hälfte der Anfragen von College-Studierenden Low-Effort-Anfragen nach einfachen Antworten. Das beschreibt Nutzungsverhalten. Für sich genommen belegt es keinen Verlust an Denkfähigkeit.

Zur Einordnung: Laut MIT News ist das Buch eine Synthese, ergänzt um persönliche Reflexionen, und stützt sich auf Forschung von So und anderen, in Wissenschaft und Industrie. Es ist nicht allein Primärforschung. Die Formulierung, es biete „one of the most complete syntheses yet“, stammt von MIT News selbst, also vom Haus des Autors, und ist keine unabhängige Bewertung. Dasselbe gilt für Sos Aussage, die Lernfähigkeit werde „dramatisch“ besser, wenn man sich mit Stoff abmühe, Anfangsfehler durchstehe und iteriere. Welche Studien dahinterstehen, nennt der vorliegende Auszug nicht. Über den Anfang des Q&A hinaus liegt das Material nicht vor. Was das Buch inhaltlich im Einzelnen leistet, lässt sich deshalb nicht beurteilen.

54 Probanden, vier Sitzungen, ein Preprint: Was die „Cognitive Debt“-Studie belegt

Die zentrale Studie der Debatte stammt ebenfalls vom MIT. Sie teilte 54 Teilnehmende in drei Gruppen ein. Die erste schrieb Essays mit ChatGPT, die zweite nutzte eine klassische Websuche, die dritte arbeitete ohne Hilfsmittel. Über vier Sitzungen in vier Monaten erfassten die Forschenden die Hirnaktivität per EEG, analysierten die Texte sprachlich und befragten die Teilnehmenden nach jeder Sitzung.

Berichtet werden bis zu 55 Prozent geringere neuronale Konnektivität (dDTF-Magnitude) bei den LLM-Nutzenden im Vergleich zu Schreibenden ohne Hilfe. Außerdem konnten 83 Prozent der LLM-Gruppe nicht aus den Essays zitieren, die sie gerade verfasst hatten. Die Autoren sprechen von „cognitive debt“, einer Anhäufung langfristiger kognitiver Kosten durch übermäßiges Verlassen auf Sprachmodelle.

Diese Befunde tragen allerdings nur begrenzt. Es handelt sich um ein Laborexperiment mit kleiner Stichprobe. Die Studie ist weiterhin ein Preprint; ihre Ergebnisse haben also noch keine abgeschlossene Begutachtung durchlaufen. Die Teilnehmenden waren Erwachsene. Was geringere Konnektivität während einer Schreibaufgabe über dauerhafte Fähigkeiten aussagt, zeigt die Studie nicht. Als Beleg für langfristige Verkümmerung taugt sie daher nicht. Sie liefert einen Hinweis: Auslagerung beim Schreiben geht messbar mit anderer Hirnaktivität und schwächerer Erinnerung an den eigenen Text einher.

Jugendliche als Risikogruppe: Eine testbare Hypothese, kein Befund

Besonders heikel wäre ein Effekt bei Jugendlichen. Hier setzt die in Frontiers veröffentlichte Arbeit zum „Cognitive Offloading Paradox“ an. Sie verweist darauf, dass die Teilnehmenden der MIT-Studie Erwachsene waren, deren Exekutivfunktionen weitgehend ausgebildet sind. Bei Jugendlichen dagegen reifen sie noch. Zwischen 10 und 20 Jahren entwickeln sie sich laut der Arbeit rasch und erfahrungsabhängig. Das Paradox: Generative KI hilft gerade bei Aufgaben wie Planen, Belege prüfen und Argumentieren, deren mühsames Üben die Entwicklung antreiben soll.

Die Autoren nennen das Risiko „testbar“ und sagen, die bisherige Forschung habe es übersehen. Ausdrücklich betonen sie, dass es sich um eine Hypothese handelt. Untersucht ist es bislang nicht.

Dem steht ein integrativer Review über mehr als 500 Studien gegenüber. Er findet bei generativer KI nur frühe Hinweise auf eine „hypothesized erosion“ höherer generativer und metakognitiver Fähigkeiten. Zusammenhänge werden zudem häufig durch sozioökonomischen Status und Umweltfaktoren moderiert oder abgeschwächt, die sowohl die Technologienutzung als auch die kognitiven Ergebnisse beeinflussen.

Die BBC fasst die Lage so zusammen: Die Wissenschaft sei „brand new“, abschließende Antworten gebe es nicht. Nach Stärke geordnet stehen also ein kleiner Laborbefund, eine ausdrücklich formulierte Hypothese und ein Review mit vorsichtigen, frühen Hinweisen nebeneinander.

Schrift, Taschenrechner, Internet: Warum Skeptiker der Verkümmerungsthese widersprechen

Die eine Seite sieht ein reales Risiko. So hält Verkümmerung bei starker Nutzung für möglich. Der Georgetown-Neurowissenschaftler Adam Green sagt der BBC auf hoher Ebene „yes“ zur Sorge. Er verweist auf reichlich Evidenz, dass die Denkfähigkeit verkümmert, wenn man weniger selbst denkt. Fachbeiträge sprechen von einem Atrophie-Risiko und von „Cognitive Debt“.

Die andere Seite verweist auf die Geschichte. Schon Sokrates warnte in Platons „Phaidros“, Schrift könne das Gedächtnis aushöhlen. Ähnliche Sorgen galten dem Buchdruck, dem Taschenrechner und dem Internet. Ein Fachbeitrag hält solche Befürchtungen für überzogen: Breite Rückgänge von Intelligenz oder Gedächtnis seien nicht belegt, Lernende passten sich an. Zudem sei die KI-Evidenz bislang „hypothesized“ und vom sozioökonomischen Umfeld mitgeprägt.

Beide Lager streiten weniger über Fakten als über Maßstäbe. Erstens: Wie viel Evidenz genügt? Die KI-Studien sind neu, teils Preprints mit 54 Teilnehmenden und kurzem Zeithorizont. Zweitens: Woran misst man? Die Skeptiker vergleichen mit früheren Technologien, bei denen sich die Warnungen nicht bestätigten. Die Warner sehen dagegen einen Unterschied, weil generative KI das Denken selbst übernehmen kann und nicht nur Gedächtnis oder Rechnen.

Ob dieser Unterschied trägt, ist offen. Ungeklärt bleibt auch, wie sich Korrelation von Kausalität trennen lässt und Laborbefund von Langzeitwirkung. Als betroffene Gruppen sind im Material Studierende und Jugendliche belegt. Konkrete Handlungsempfehlungen von So liegen im vorliegenden Auszug nicht vor.