Ambient AI-Scribes: Edinburgh-Studie warnt vor übersehenen Informationen und Dequalifizierung

Edinburgh-Studie: Ambient AI-Scribes übersehen wichtige Informationen und fördern Dequalifizierung

Die peer-reviewte Studie der University of Edinburgh im BMJ Digital Health zeigt, dass ambient AI-Scribes wichtige Informationen übersehen und zur Dequalifizierung von medizinischem Personal führen können. Die Forscher beschreiben den Mechanismus als „Cognitive Offloading“: Wenn Kliniker die Dokumentation an die KI abgeben, verlagern sie kognitive Arbeit aus dem klinischen Denkprozess. Dadurch prüfen sie die generierten Notizen seltener auf Vollständigkeit und Richtigkeit, und übersehene Informationen – etwa durch Fehler der Spracherkennung oder Auslassungen bei der automatischen Zusammenfassung – bleiben unentdeckt. Gleichzeitig kann die reduzierte eigene Dokumentationspraxis langfristig die Fähigkeit schwächen, klinische Sachverhalte selbst strukturiert festzuhalten. Die Studie fand zudem, dass Patienten zurückhaltender sein könnten, wenn sie wissen, dass das Gespräch aufgezeichnet wird, was die Informationsbasis verringert. In einigen Fällen erkannten Ärzte ihre eigenen Notizen nicht wieder, weil die KI-generierten Texte nicht ihrem persönlichen Stil oder ihrer üblichen Struktur entsprachen. Die Autoren kommen zu dem Schluss, dass AI-Scribes bei administrativer Arbeit helfen können, aber mehr Forschung nötig ist, um ihren Einsatz in spezifischen Versorgungskontexten zu verstehen.

40 Prozent der britischen Hausärzte nutzen AI-Scribes – Hersteller versprechen Entlastung

Etwa 40 Prozent der Hausärzte in Großbritannien nutzen ambient AI-Scribes. Diese Werkzeuge hören das Gespräch zwischen Arzt und Patient mit, wandeln die Sprache in Text um und erzeugen daraus schriftliche Notizen und Briefe. In den West Midlands berichteten Ärzte, dass das Tool Heidi ihre Arbeitsbelastung deutlich reduziert habe. In einer Klinik in Dudley sank der Rückstand bei Patientenbriefen von sechs Monaten auf 14 Tage. Der Grund: Heidi erstellt die Briefe automatisch unmittelbar nach der Konsultation, sodass das manuelle Abtippen, Formatieren und spätere Versenden entfällt. Dadurch konnten die Praxisteams die ausstehenden Briefe zügig abarbeiten. Ärzte berichteten zudem, dass sie sich stärker auf das Patientengespräch konzentrieren konnten, weil die Dokumentation parallel automatisch entstand. Der Anbieter OmniMD behauptet in einem werblichen Beitrag: „The good news is that AI scribing work. The research now proves it“ und listet die „15 Best AI Medical Scribes in 2026“. Diese positiven Erfahrungsberichte und Herstelleraussagen stehen jedoch im Widerspruch zu unabhängigen Studien, die systematisch Fehler und Risiken dokumentieren.

Unabhängige Studien dokumentieren Auslassungen, Halluzinationen und Sicherheitsrisiken

Eine narrative Übersichtsarbeit mit 18 Studien (2019–2025) fand, dass AI-Scribes zwar Dokumentationsaufwand und kognitive Belastung reduzieren, aber auch häufige Auslassungen und gelegentlich klinisch relevante Halluzinationen auftreten. Ursachen sind die Kombination aus automatischer Spracherkennung (ASR), natürlicher Sprachverarbeitung und generativer KI: ASR kann Wörter falsch verstehen, die generative Zusammenfassung kann Details weglassen oder plausible, aber falsche Inhalte ergänzen. Besonders anfällig sind komplexe Konsultationen, mehrere Sprecher im Raum und neue Medikamente. Eine systematische Übersichtsarbeit mit 8 Studien zeigte positive Effekte auf das Engagement der Behandler, aber Bedenken bei Schulung und Dokumentationsqualität; der Einfluss auf Burnout war begrenzt. Eine Evaluierung an 40 echten klinischen Aufnahmen offenbarte Schwächen bei der Faktenrichtigkeit und der Erfassung neu verordneter Medikamente. Eine Studie mit 10 Hausärzten fand als einzige signifikante Veränderung weniger getippte Zeichen; als Barrieren wurden fehlende EHR-Integration, die Unfähigkeit, mehrere Personen im Gespräch zu identifizieren, und Schwierigkeiten bei komplexen Gesundheitsproblemen genannt. Eine weitere Studie mit zwei kommerziellen Produkten in simulierten Gesprächen dokumentierte sicherheitsrelevante Fehler und forderte eine systematische Bewertung von Fehlerhäufigkeit und -mustern. Die Fehler treten nicht zufällig auf, sondern gehäuft bei ähnlich klingenden Medikamentennamen, unklarer Kontextzuordnung und wenn die KI Lücken im Gesprächsverlauf mit wahrscheinlichen, aber nicht belegten Angaben füllt.

Healthwatch warnt: AI-Scribes verwechseln Medikamente und erfinden Diagnosen

Healthwatch England warnt, dass AI-Scribes die Patientensicherheit gefährden können, indem sie Medikamenten- und Krankheitsnamen verwechseln. Die technischen Fehlermodi sind konkret: Die automatische Spracherkennung verwechselt ähnlich klingende Arzneimittelnamen, etwa wenn ein verordnetes Medikament durch ein anderes mit ähnlichem Namen ersetzt wird. Die generative Textzusammenfassung kann Kontext falsch interpretieren: In einem dokumentierten Fall wurde aus dem Befund „null demyelination“ die schwere Diagnose „demyelination“ – eine Nervenschädigung, die zu Multipler Sklerose führen kann. In einem anderen Fall fehlte in einem KI-generierten Brief die Anweisung des Facharztes, ein Rezept beim Hausarzt zu erneuern, was die Medikamentenversorgung gefährden konnte. Ein Fallbericht beschreibt, wie ein AI-Scribe die falsche Behauptung erfand, eine Patientin nehme illegale Drogen (Psychedelika), obwohl es dafür keinerlei Anhaltspunkte gab. Verfahrenstechnisch ist problematisch, dass solche Fehler oft erst von Patienten bemerkt werden, nicht von Ärzten, und dass die generierten Briefe ohne ausreichende Prüfung in die Patientenakte gelangen können. Solche Fehler können die weitere Behandlung beeinträchtigen und das Vertrauen in die Dokumentation untergraben.

Hersteller behaupten Erfolg, unabhängige Studien zeigen Risiken: Ein unaufgelöster Widerspruch

Der Widerspruch zwischen der OmniMD-Behauptung, die Forschung belege den Erfolg, und den Befunden unabhängiger Studien ist unaufgelöst. OmniMD stützt sich auf eine von Yale geleitete Studie, die im Oktober 2025 im JAMA Network Open erschien: 263 Ärzte und Advanced Practice Providers aus sechs US-Gesundheitssystemen wurden 30 Tage beobachtet, der Burnout-Wert sank von 51,9 % auf 38,8 %. Diese Studie nutzt einen subjektiven Endpunkt (Selbstauskunft zu Burnout) und eine kurze Laufzeit; sie ist zudem in einem werblichen Beitrag eines Anbieters zitiert. Unabhängige Forschung verwendet dagegen andere Designs: narrative und systematische Übersichtsarbeiten aggregieren heterogene Studien mit unterschiedlichen Tools und Endpunkten; Simulationsstudien mit 40 echten Aufnahmen messen objektiv Faktenrichtigkeit und Auslassungen; eine Pilotstudie mit 10 Hausärzten erhebt quantitative Tippmengen und qualitative Barrieren; eine Studie mit zwei kommerziellen Produkten in simulierten Gesprächen identifiziert Fehlermuster. Positive Ergebnisse beruhen häufig auf Selbstauskünften zu Zufriedenheit und Burnout, während negative Ergebnisse aus objektiven Fehleranalysen stammen. Kurze Beobachtungszeiträume können langfristige Dequalifizierung und Fehlerakkumulation nicht erfassen. Die Finanzierungsquelle spielt eine Rolle: Hersteller-finanzierte oder werbliche Quellen neigen zu positiven Darstellungen, während peer-reviewte unabhängige Studien auch Schwächen benennen. Ähnliche Diskrepanzen zwischen Herstellerangaben und unabhängigen Prüfungen sind aus anderen KI-Bereichen bekannt.

Patientensicherheit gefährdet: Regulierer, Hersteller und Ärzte müssen handeln

Patienten sind durch Fehler gefährdet, Ärzte werden dequalifiziert oder verlassen sich auf fehlerhafte Notizen, und Gesundheitssysteme tragen Haftungsrisiken. Konkret erforderlich sind: erstens verbindliche Prüf- und Validierungsprotokolle, etwa eine ärztliche Endkontrolle jeder KI-generierten Notiz vor dem Versand und automatisierte Faktenchecks gegen die Audioaufnahme; zweitens regulatorische Vorgaben von NHS und Healthwatch England, die Fehlermeldungen, Zertifizierung und Post-Market-Überwachung vorschreiben; drittens Schulungsprogramme, die Ärzte darin trainieren, typische KI-Fehler zu erkennen und ihre eigene Dokumentationskompetenz zu erhalten. Diese Maßnahmen wirken, weil sie Fehler abfangen, bevor sie in Patientenakten gelangen, die Verantwortlichkeit klären und einer schleichenden Dequalifizierung entgegenwirken. Ohne solche Schritte drohen stille Fehler in Tausenden von Notizen, wie die dokumentierten Fallberichte zeigen.