KI-Chatbots als Gesundheitsratgeber: Jede zweite Antwort problematisch

Jede zweite Antwort problematisch: BMJ-Studie offenbart Risiken von KI-Chatbots

Ein im BMJ Open veröffentlichtes Audit aus dem Jahr 2026 hat die Antworten von fünf populären KI-Chatbots auf Gesundheitsfragen untersucht. Die Forscher prüften die Genauigkeit, die Nachvollziehbarkeit der Quellen und die Verständlichkeit der Antworten, indem sie den Chatbots gezielt Fragen aus Bereichen stellten, die anfällig für medizinische Fehlinformationen sind. Das Ergebnis ist alarmierend: 49,6 Prozent der Antworten wurden als problematisch eingestuft, 19,6 Prozent sogar als hochproblematisch. Am schlechtesten schnitt Grok ab, das bei 58 Prozent der Antworten hochproblematische Inhalte lieferte. Am zuverlässigsten war noch Gemini, das die wenigsten hochproblematischen Antworten erzeugte. Die Studie prüfte nicht nur die inhaltliche Genauigkeit, sondern auch die Qualität der Quellenangaben. Die durchschnittliche Referenzvollständigkeit lag bei lediglich 40 Prozent. Kein einziger Chatbot konnte eine vollständig korrekte Referenzliste vorweisen. Die Forscher warnen, dass die Chatbots oft mit großer Selbstsicherheit irreführende Gesundheitsinformationen, schwache Zitate und potenziell unsichere Ratschläge liefern.

Stiftung Warentest testet fünf Chatbots im Symptom-Check

Die Stiftung Warentest hat in ihrer Ausgabe 8/2026 fünf KI-Chatbots einem Praxistest unterzogen. Die Tester schilderten den Systemen – ChatGPT, Gemini, Meta AI, Claude und einem weiteren Chatbot – Symptome verschiedener Erkrankungen und fragten nach einer Einschätzung, ob und wie schnell ein Arztbesuch nötig sei. Die Ergebnisse sind in der Zeitschrift veröffentlicht.

Zwischen Potenzial und Gefahr: Warum die Bewertungen auseinandergehen

Die neuen Ergebnisse stehen in auffälligem Widerspruch zu früheren Studien, die das Potenzial von KI-Chatbots im Gesundheitsbereich betonten. Ein Scoping Review in Frontiers bescheinigte ChatGPT und Gemini vielversprechende Genauigkeit bei medizinischen Fragen, und eine Untersuchung von Barw Medical hob hervor, dass ChatGPT präzise Informationen zu diversen medizinischen Themen liefere. Das BMJ-Audit und eine weitere Studie im Nature-Stil, die Halluzinationsraten von 50 bis 82 Prozent ermittelte, zeichnen jedoch ein gegenteiliges Bild. Der Widerspruch erklärt sich vor allem durch unterschiedliche Fragentypen und Bewertungskriterien. Das BMJ-Audit fokussierte gezielt auf Themen, die anfällig für Fehlinformationen sind, während andere Studien allgemeinere medizinische Fragen stellten. Zudem können Chatbot-Versionen und die Formulierung der Prompts die Ergebnisse stark beeinflussen. Die vermeintliche Zuverlässigkeit hängt also stark vom Kontext ab – ein Umstand, der für Nutzer kaum durchschaubar ist.

KI-Vertrauen auf dem Prüfstand: Parallelen zu anderen sicherheitskritischen Anwendungen

Die Diskrepanz zwischen Potenzial und tatsächlicher Einsatzreife ist kein spezifisches Problem des Gesundheitssektors. Ein Projekt, das 2,55 Millionen US-Dollar in KI-Agenten zur Jagd auf Kernel-Bugs investiert, zeigt das hohe Vertrauen in die Technologie. Gleichzeitig ergab eine ROI-Studie, dass 2026 zwar ein Anstieg des KI-Returns auf 24 Prozent erwartet wird, aber nur 4 Prozent der Unternehmen tatsächlich bereit für den Einsatz von KI-Agenten sind. Diese Kluft spiegelt sich im Gesundheitsbereich wider: Während KI-Chatbots beeindruckende Fähigkeiten demonstrieren, sind sie für sicherheitskritische Anwendungen wie medizinische Beratung noch nicht verlässlich genug. Die hohen Fehlerraten und die mangelnde Nachvollziehbarkeit der Quellen machen den Einsatz ohne menschliche Aufsicht zu einem riskanten Unterfangen.

Trotz Risiken: OpenAI startet medizinische Analyse-Funktion

Ungeachtet der alarmierenden Studienergebnisse treibt OpenAI die Entwicklung medizinischer KI-Anwendungen voran. In den USA wurde eine neue ChatGPT-Funktion gestartet, die medizinische Aufzeichnungen analysieren kann, um Nutzern bessere Antworten zu geben [Herstellerangabe]. Zudem bietet das Unternehmen mit ChatGPT Health eine spezielle Plattform an, die Gesundheitsdaten sicher verbinden soll und nach Angaben von OpenAI datenschutzfreundlich sowie ärztlich informiert gestaltet ist [Herstellerangabe]. Kampagnenorganisationen warnen jedoch vor den Risiken. Die Spannung zwischen dem Drang nach Innovation und der Gewährleistung von Patientensicherheit wird damit erneut deutlich. Während die Technologie voranschreitet, bleiben grundlegende Fragen zur Verlässlichkeit und Haftung unbeantwortet.

Chatbots als Gesundheitsratgeber: Eine riskante Abkürzung

Die aktuelle Faktenlage lässt keinen Zweifel: KI-Chatbots sind derzeit keine verlässlichen Gesundheitsratgeber. Das BMJ-Audit belegt, dass ein erheblicher Teil der Antworten problematisch oder sogar gefährlich ist. Auch die Stiftung Warentest hat die Systeme einem Praxistest unterzogen und die Ergebnisse in ihrer Ausgabe 8/2026 veröffentlicht. Die Diskrepanz zwischen dem Hype um KI im Gesundheitswesen und der tatsächlichen Zuverlässigkeit ist eklatant. Wer bei Symptomen oder medizinischen Fragen auf Chatbots vertraut, geht ein unnötiges Risiko ein. Die Technologie mag in kontrollierten Studien Potenzial zeigen, doch im freien Einsatz überwiegen derzeit die Gefahren. Eine professionelle ärztliche Beratung ersetzen die Systeme nicht – sie können sie allenfalls ergänzen, wenn ihre Grenzen klar kommuniziert werden.

KI als Gesundheitsberater: Ärzte schlagen Alarm

In der Reddit-Diskussion warnen Fachleute vor den Folgen: Jckcc123 in r/doctorsUK sieht eine Zunahme von Gesundheitsängsten und unnötigen Arztbesuchen, weil Patienten KI-generierte Ferndiagnosen blind vertrauen. Sethlans in r/doctorsUK unterstreicht, dass selbst intelligente Nutzer mit KI-Hilfe zu völlig falschen Schlüssen kommen können – ein Risiko, das sich bei Menschen ohne kritisches Denkvermögen potenziert.