KI SpotlightNewsGoogles Medizin-KI AMIE im Praxistest: Kein Sicherheitsstopp bei 98 Patienten, aber eine Halluzination
Eine Machbarkeitsstudie am BIDMC testete AMIE erstmals mit echten Patienten vor dringlichen Hausarztterminen
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Von April bis November 2025 wurden 114 Patienten eingeschlossen; 98 schlossen AMIE und Hausarzttermin ab.
- Null Sicherheitsstopps nach vorab festgelegten Kriterien waren nötig.
- Ärztliche Sicherheitsaufseher überwachten alle Interaktionen und konnten nach festen Kriterien eingreifen.
- Eine Halluzination wurde vermerkt; in fünf Interaktionen wurden klinische Informationen ergänzt.
- Klinische Gutachter bewerteten AMIEs Gespräche in 87–100 % der Fälle günstig.
Kein Sicherheitsstopp bei 98 Patienten, aber eine Halluzination
Das Beth Israel Deaconess Medical Center (BIDMC) und Google haben die Konversations-KI AMIE mit echten Patienten getestet, und zwar vor dringlichen Hausarztterminen. Laut Lancet-Abstract auf PubMed nahmen von April bis November 2025 insgesamt 114 Patienten teil. Davon absolvierten 98 sowohl den Chat mit AMIE als auch den Hausarzttermin. Nach den vorab festgelegten Kriterien war kein einziger Sicherheitsstopp nötig.
Die Null hat allerdings einen Haken. Unterhalb der Stopp-Schwelle vermerkten die ärztlichen Sicherheitsaufseher eine Halluzination. Außerdem ergänzten sie in fünf Interaktionen klinische Informationen. Die Studie zeigt also, dass nach den definierten Kriterien kein Eingriff nötig wurde. Dass AMIE durchgehend fehlerfrei arbeitete, zeigt sie nicht.
Neu ist vor allem das Setting. Frühere AMIE-Arbeiten liefen als Simulationen, etwa mit Schauspielpatienten. Diesmal kam das System in einem klinischen Ablauf mit echten Patienten zum Einsatz.
Chat bis zu fünf Tage vor dem Termin, Ärzte schauen in Echtzeit zu
Die Untersuchung ist als prospektive, monozentrische und einarmige Machbarkeitsstudie angelegt. Registriert ist sie bei ClinicalTrials.gov unter NCT06911398. Teilnehmen konnten englischsprachige Erwachsene mit einem einzelnen Beschwerdebild. Sie chatteten bis zu fünf Tage vor einem dringlichen Hausarzttermin mit AMIE.
Ärztliche Sicherheitsaufseher begleiteten alle Interaktionen. Laut Preprint geschah das in Echtzeit. Geschult waren sie, nach vordefinierten Sicherheitskriterien einzugreifen. Vor dem Termin erhielten die Hausärzte Transkripte und Zusammenfassungen von AMIE. Sie konnten diese in ihre Vorbereitung einbeziehen.
Machbarkeit ist nicht Wirksamkeit: Was offen bleibt
Eine Kontrollgruppe gibt es nicht. Die Studie belegt deshalb keine Wirksamkeit. Die BIDMC-Überschrift „Shows Promise for Safe, Effective Primary Care Support“ geht über das Design hinaus. Auch die Erstanspruch-Formulierungen sind Herstellerangaben: BIDMC spricht nach eigener Einschätzung von der ersten prospektiven Real-World-Studie dieser Art, Google nennt sie „first-of-its-kind“. Eine unabhängige Prüfung dieser Behauptung liegt im Material nicht vor.
Bei den Teilnehmerzahlen weichen die Quellen voneinander ab. Der Preprint nennt 100 Erwachsene, die den Chat abschlossen. Das Lancet-Abstract nennt 98 Patienten mit Chat und Hausarzttermin bei 114 Eingeschlossenen. Möglicherweise unterscheiden sich die Nenner oder die Datenstände. Das Material klärt weder das noch den Verbleib der 16 nicht ausgewerteten Patienten.
Die Diagnosezahlen stammen nur aus dem Preprint. Die Enddiagnose, acht Wochen nach dem Termin per Aktenprüfung ermittelt, war demnach in 90 Prozent der Differenzialdiagnosen enthalten. Die Top-3-Genauigkeit lag bei 75 Prozent. Google hat mit Included Health zudem eine landesweite randomisierte Studie zu AMIE gestartet; Ergebnisse enthält das vorliegende Material nicht.
