KI-Zugriff lässt „Ich weiß nicht“ fast verschwinden

KI-Zugriff lässt „Ich weiß nicht“ fast verschwinden

Der bloße Zugriff auf ein KI-Sprachmodell bringt Menschen dazu, fast nie mehr „Ich weiß nicht“ zu sagen. In fünf Experimenten mit insgesamt 3.132 Teilnehmenden sank die Rate der Antwortverweigerungen von 36 bis 44 Prozent ohne KI-Zugriff auf nur noch 3 bis 6 Prozent mit KI-Zugriff. In den ersten beiden Studien (1a und 1b) enthielten sich Teilnehmende ohne KI-Unterstützung bei 36 beziehungsweise 44 Prozent der Fragen einer Antwort; mit KI-Zugriff fielen diese Werte auf 6 beziehungsweise 3 Prozent. Das bedeutet: Sobald ein Sprachmodell als Ratgeber verfügbar war, gaben die Probanden fast immer eine Antwort – auch wenn diese häufig falsch war. Die Studienautoren Valerio Capraro, Chiara Marcoccia und Walter Quattrociocchi sehen darin eine systematische Unterdrückung der Fähigkeit, die Grenzen des eigenen Wissens zu erkennen. Der Effekt trat nicht etwa auf, weil die KI zuverlässig war. Das verwendete Modell lag bei den gestellten Fragen fast immer daneben. Trotzdem verließen sich die Teilnehmenden auf die Ratschläge und verzichteten darauf, ihre Unsicherheit einzuräumen. Die Ergebnisse deuten darauf hin, dass die schiere Verfügbarkeit von KI-Beratung die kognitive Gewohnheit untergräbt, das eigene Nichtwissen zu benennen. In den Kontrollgruppen ohne KI-Zugriff war das Eingeständnis von Unwissenheit noch weit verbreitet: Zwischen 36 und 44 Prozent der Fragen blieben unbeantwortet. Mit KI-Zugriff fiel dieser Anteil auf 3 bis 6 Prozent – ein Rückgang um mehr als 80 Prozent.

Fünf Experimente, 3.132 Teilnehmende – und ein absichtlich falsches Modell

Die Studie umfasste fünf Experimente mit insgesamt 3.132 Teilnehmenden. Im Hauptexperiment kam das Sprachmodell Step 3.5 Flash zum Einsatz. Die Forscher wählten dieses Modell gezielt aus, weil es bei den gestellten Fragen fast immer falsch lag. Die Fragen betrafen visuelle Details aus Filmen, etwa die Farbe der Teamtrikots in „Bend It Like Beckham“. Solche Details kommen in Online-Texten selten vor und sind daher besonders anfällig für Halluzinationen von Sprachmodellen. Durch diese Versuchsanordnung schlossen die Autoren aus, dass der beobachtete Effekt eine vernünftige Delegation an ein zuverlässiges Werkzeug darstellt. Wäre das Modell überwiegend richtig gewesen, hätte die Übernahme der Antworten als rational gelten können. Da die KI-Ratschläge jedoch überwiegend falsch waren, zeigt das Verhalten der Teilnehmenden eine Tendenz, sich auch bei offensichtlich unzuverlässigen Ratschlägen an die KI anzulehnen. Zusätzlich testeten die Forscher die Modelle GPT-5.5, Claude 4.6 Sonnet und Gemini 3.5 Flash. Diese beantworteten die meisten anderen Fragen korrekt, scheiterten aber teilweise an den schwierigeren Filmfragen. Die Autoren der Studie sind Valerio Capraro von der University of Milano-Bicocca, Chiara Marcoccia von der École Normale Supérieure und Walter Quattrociocchi von der Sapienza University of Rome.

Genauigkeit sinkt, Vertrauen steigt – trotz falscher Antworten

Die gegenläufigen Effekte sind deutlich: Mit KI-Zugriff sank die Genauigkeit von 27 Prozent auf 9 Prozent, während das Vertrauen der Teilnehmenden von 30 Prozent auf 76 Prozent stieg. In einer Messung erreichte das Vertrauen mit KI-Zugriff 75,9 Punkte auf einer Skala. Die Probanden wurden also objektiv schlechter, fühlten sich aber subjektiv sicherer. Dieser Befund lässt sich nicht als sinnvolle Arbeitsteilung erklären, bei der Menschen eine zuverlässige KI konsultieren. Die KI-Ratschläge waren überwiegend falsch. Stattdessen zeigt sich ein Muster, das Forscher als „kognitive Kapitulation“ bezeichnen: Menschen übernehmen falsche KI-Antworten und berichten gleichzeitig ein höheres Vertrauen als Personen, die ohne KI arbeiten. Die bloße Verfügbarkeit eines Sprachmodells unterdrückt die Gewohnheit, das eigene Nichtwissen zu erkennen und zu kommunizieren. Wer eine KI fragen kann, neigt offenbar dazu, jede Antwort als gegeben hinzunehmen, ohne die eigene Urteilsfähigkeit einzuschalten. Die Diskrepanz zwischen tatsächlicher Leistung und subjektiver Sicherheit ist ein zentrales Warnsignal für den Einsatz von KI in Entscheidungsprozessen.

Finanzielle Anreize helfen kaum – was das für Nutzer bedeutet

Finanzielle Anreize für richtige Antworten verbesserten die Genauigkeit nur geringfügig. In einem Experiment mit monetärer Belohnung stieg die Trefferquote auf 16 Prozent – immer noch deutlich unter dem Wert von 27 Prozent ohne KI-Zugriff. Das zeigt, dass selbst ein klarer Anreiz, korrekt zu antworten, die Neigung, falsche KI-Antworten zu übernehmen, nicht ausreichend kompensiert. Für Nutzer bedeutet das: Wer ein Sprachmodell zurate zieht, gibt seltener zu, etwas nicht zu wissen, und trifft dadurch im Zweifel schlechtere Entscheidungen. Die Ergebnisse reihen sich ein in eine Serie von Vorfällen, bei denen KI-Systeme fehlerhafte oder sicherheitsrelevante Probleme verursachten. So meldete OpenAI zuletzt unbefugte Zugriffe auf US-Regierungswebsites, und die EU prüft das Unternehmen im Zusammenhang mit einem Wiki-Vorfall. Diese Kontexte unterstreichen, dass blindes Vertrauen in KI-Antworten riskant ist. Die neue Studie liefert einen empirischen Beleg dafür, dass bereits der Zugriff auf ein Sprachmodell die Bereitschaft zum Eingeständnis von Unwissenheit drastisch reduziert – selbst wenn das Modell überwiegend falsch liegt.