KI SpotlightNewsEx-DeepMind-Forscher: LLMs betreiben nur Mustererkennung
Forderung nach AlphaGo-inspirierten, auditierbaren Architekturen – belegt bislang nur über hyper.ai
Mit KI erstellt◆ Fakten auf einen Blick
- Chain-of-thought prompting in Kombination mit vortrainierten LLMs hat ermutigende Ergebnisse bei komplexen Reasoning-Aufgaben erzielt.
- Self-Consistency-Decoding verbessert die Leistung von Chain-of-Thought-Prompting auf arithmetischen und Commonsense-Reasoning-Benchmarks deutlich (GSM8K +17,9%, SVAMP +11,0%, AQuA +12,2%, StrategyQA +6,4%, ARC-challenge +3,9%).
- LLMs zeigen flüssige Sprachproduktion und Faktenwiedergabe, aber komplexes Reasoning (logische Deduktion, mathematisches Problemlösen, Commonsense-Inferenz, mehrschrittiges Reasoning) bleibt eine grundlegende Herausforderung.
- Techniken wie Chain-of-Thought, Self-Consistency, Tree-of-Thought, retrieval-unterstützte Modelle, modulare Reasoning-Netzwerke, neuro-symbolische Integration und Reinforcement Learning werden eingesetzt, um Reasoning in LLMs zu verbessern.
- Reinforcement Learning und Testzeit-Computation (längere Ketten von Zwischentokens) können die Reasoning-Genauigkeit von LLMs verbessern.
- Behauptungen über LLM-Reasoning erfüllen Poppers Falsifizierbarkeitsprinzip nicht, weil Trainingsdaten und Interaktionsprotokolle opak bleiben.
Ex-DeepMind-Forscher: LLMs betreiben nur Mustererkennung
Ein ehemaliger Google-DeepMind-Forscher argumentiert laut der Sekundärquelle hyper.ai, dass Large Language Models keine echte Reasoning-Fähigkeit besitzen. Sie arbeiteten ausschließlich als assoziatives System und beruhten auf reiner Next-Token-Vorhersage. Deshalb fehle ihnen ein persistenter, inspizierbarer kognitiver Zustand, um Annahmen und Konfidenz nachzuverfolgen; Wissen und Schlussfolgern seien in den neuronalen Gewichten vermischt und nicht unabhängig manipulierbar. Chain-of-Thought verlängere lediglich den Vorhersageprozess, statt eine eigenständige Reasoning-Komponente einzuführen.
Forderung nach AlphaGo-inspirierten, auditierbaren Architekturen
Der Forscher fordert für sicherheitskritische Anwendungen überprüfbare, von AlphaGo inspirierte Architekturen. AlphaGo kombinierte schnelle, assoziative Intuition mit einer langsamen, deliberativen Suche, die tausende Folgezüge bewertete, einen persistenten Zustand hielt und Überzeugungen anhand berechneter Konsequenzen aktualisierte. Dadurch sind Annahmen und Konfidenz nachvollziehbar und auditierbar. LLMs fehlt ein solcher inspizierbarer Zustand. Die Originalquelle (MIT Technology Review) liegt nicht vor; die Behauptung ist bislang nur über die Sekundärquelle hyper.ai belegt.
