Dreiphasige Evolution: Neue Survey ordnet LLMs in der psychischen Gesundheit

Dreiphasige Evolution: Von Mustererkennern zu personalisierten Begleitern

Eine neue Survey mit dem Titel „From Pattern Recognizers to Personalized Companions: A Survey of Large Language Models in Mental Health“ ist auf Hugging Face abrufbar. Sie ordnet die Literatur zu Large Language Models (LLMs) in der psychischen Gesundheit entlang einer dreiphasigen Entwicklung. Die Autorinnen und Autoren verweisen auf die steigende globale Prävalenz psychischer Erkrankungen sowie auf anhaltende Barrieren in der traditionellen Versorgung – begrenzte Ressourcen, hohe Kosten, Stigmatisierung und Datenschutzbedenken – und leiten daraus einen dringenden Bedarf an zugänglicher und skalierbarer Unterstützung ab. LLMs werden als transformative Technologie mit starkem Potenzial zur Demokratisierung psychischer Gesundheitsunterstützung durch fortgeschrittenes Verstehen und Generieren natürlicher Sprache beschrieben. Diese Einschätzung ist eine Herstellerangabe und nicht unabhängig belegt.

Die Survey argumentiert, dass das schnell wachsende, aber fragmentierte Feld eine kohärente evolutionäre Erzählung benötige. Ihre zentrale These lautet, dass sich die Rolle von LLMs in drei zunehmend komplexeren Phasen entwickelt. Phase I beschreibt LLMs als passive Informationstools und Mustererkenner für das Assessment. Phase II sieht sie als empathische Gesprächspartner für momentane, zustandslose Interaktionen. Phase III, die als aktuelle Grenze bezeichnet wird, zielt auf longitudinale, personalisierte Begleiter, die als zustandsbehaftete kognitive Agenten implementiert werden. Zur Untermauerung kündigt die Survey an, Kerntechnologien, Agentenarchitekturen mit Profilen, Gedächtnis, Schlussfolgern und Planung sowie kritische Infrastruktur systematisch zu reviewen. Die dreiphasige Taxonomie ist der zentrale konzeptionelle Beitrag der Arbeit; sie unterscheidet sich von bisherigen Einteilungen, die LLMs primär als Werkzeuge für einzelne Aufgaben betrachteten.

Frühere Surveys behandelten LLMs als Werkzeuge – die neue Taxonomie fehlte

Frühere Übersichtsarbeiten zu LLMs im Bereich psychische Gesundheit behandelten die Modelle überwiegend als Werkzeuge für spezifische Aufgaben, ohne eine Phasen-Taxonomie zu formulieren. Eine arXiv-Survey fokussierte auf die Erkennung psychischer Störungen auf Social-Media-Plattformen. Sie deckte nicht nur die häufigsten Störungen wie Depression und Angst ab, sondern bezog auch psychotische Störungen und externalisierende Störungen ein. Die Arbeit fasste Anwendungsmethoden von LLMs aus verschiedenen Dimensionen zusammen, etwa Textdatenanalyse und Erkennung psychischer Störungen, und gab einen Überblick über populäre Datensätze und Evaluationsmetriken. Ihr Ziel war es, einen umfassenden Referenzrahmen für Forschende zu bieten und das Potenzial von LLMs für zukünftige Interventionen aufzuzeigen.

Eine weitere arXiv-Survey betrachtete LLMs in der Psychotherapie. Sie bot einen umfassenden Überblick über die Rollen von LLMs bei der Symptomerkennung, der Schweregradeinschätzung, der kognitiven Beurteilung und therapeutischen Interventionen. Die Autorinnen und Autoren schlugen eine neuartige konzeptionelle Taxonomie vor, die den Psychotherapieprozess in drei Kernkomponenten gliedert: Assessment, Diagnose und Behandlung. Sie diskutierten Herausforderungen wie linguistische Verzerrungen, begrenzte Abdeckung von Störungsbildern und unterrepräsentierte Therapiemodelle und skizzierten zukünftige Richtungen für ein ganzheitliches, end-to-end Psychotherapie-Framework.

Eine systematische Übersichtsarbeit in JMIR Mental Health untersuchte LLMs in Früherkennung, digitalen Interventionen und klinischen Settings. Sie folgte den PRISMA-Richtlinien, durchsuchte fünf Open-Access-Datenbanken und schloss 40 Artikel ein, die zwischen Januar 2017 und April 2024 veröffentlicht wurden. Davon befassten sich 15 Artikel mit der Erkennung psychischer Erkrankungen und Suizidgedanken. Eine weitere Übersichtsarbeit auf cambridge.org bewertete generative KI in der Psychiatrie und stellte fest, dass das Feld noch in einem frühen Stadium ist; die meisten Studien seien frühe Machbarkeits- oder Pilotprojekte, und nur sehr wenige umfassten prospektive Experimente mit Teilnehmern.

Keine dieser Arbeiten formulierte eine Phasen-Taxonomie, die LLMs als sich von passiven Mustererkennern zu personalisierten Begleitern entwickelnde Entitäten beschreibt. Die neue Survey führt genau diese evolutionäre Perspektive ein. Während frühere Surveys Anwendungsbereiche oder den klinischen Prozess strukturierten, betont sie die zunehmende Komplexität der LLM-Rolle über die Zeit. Insbesondere die Unterscheidung zwischen zustandslosen Interaktionen (Phase II) und zustandsbehafteten kognitiven Agenten (Phase III) findet sich in keiner der vorliegenden Arbeiten. Diese Neuheit ist der Kern ihres Anspruchs, eine kohärente evolutionäre Erzählung zu liefern.

Konzeptionelle Roadmap trifft auf dünne empirische Basis

Zwischen der konzeptionellen Roadmap der neuen Survey und dem empirischen Stand klafft eine deutliche Lücke. Die Survey beschreibt Phase III als aktuelle Grenze und sieht starkes Potenzial für longitudinale, personalisierte Companions, die als zustandsbehaftete kognitive Agenten mit Profilen, Gedächtnis, Schlussfolgern und Planung implementiert werden. Die cambridge.org-Übersichtsarbeit kommt jedoch zu einem anderen Befund: Das Feld der generativen KI in der Psychiatrie befinde sich noch in einem frühen Stadium. Die meisten Studien seien frühe Machbarkeits- oder Pilotprojekte, und nur sehr wenige umfassten prospektive Experimente mit Teilnehmern. Zudem leide das Feld unter einem Mangel an klarer Berichterstattung; die Autorinnen und Autoren empfehlen die Einhaltung von Reporting-Guidelines wie TRIPOD-LLM. Als weitere Limitation nennen sie, dass es keine klare Definition von generativer KI in der Literatur gebe, wodurch relevante Studien möglicherweise übersehen worden seien, und dass die Arbeit nur eine Momentaufnahme eines sich schnell bewegenden Feldes bis Februar 2024 darstelle. Aufgrund der relativen Unreife des Feldes wurden keine formalen quantitativen Analysen oder Qualitätsbewertungen durchgeführt.

Der Widerspruch erklärt sich aus unterschiedlichen Perspektiven. Die neue Survey ist eine konzeptionelle Literaturanalyse, die auch zukünftige oder geplante Architekturen einbezieht. Sie systematisiert, was technisch denkbar und in der Literatur beschrieben ist, nicht was klinisch validiert wurde. Die cambridge.org-Übersichtsarbeit hingegen prüft die empirische Evidenz aus Studien mit Teilnehmern. Dass die Survey Phase III als „current frontier“ bezeichnet, bedeutet nicht, dass entsprechende Systeme bereits in der Praxis etabliert sind. Vielmehr handelt es sich um eine Forschungsagenda, die auf technischen Konzepten wie zustandsbehafteten Agenten und Gedächtnismodulen beruht. Die Diskrepanz ist methodisch bedingt: Eine Literaturanalyse kann fortgeschrittene Konzepte beschreiben, während eine systematische Übersichtsarbeit den Mangel an belastbaren Studien dokumentiert. Beide Perspektiven sind komplementär, aber sie führen zu unterschiedlichen Schlussfolgerungen über den Reifegrad des Feldes. Die Survey liefert eine Roadmap für die Zukunft, die Übersichtsarbeit eine Bestandsaufnahme der Gegenwart.

Fast die Hälfte der KI-Nutzer mit psychischen Problemen nutzt LLMs – doch die Studienlage ist dünn

Die Sentio-Erhebung, veröffentlicht in Practice Innovations, einem peer-reviewten Journal der American Psychological Association, berichtet, dass 48,7 Prozent der Befragten, die sowohl KI nutzen als auch psychische Probleme angeben, LLMs für therapeutische Unterstützung nutzen. Genauer: 49 Prozent der LLM-Nutzer mit einer selbstberichteten anhaltenden psychischen Erkrankung verwenden LLMs für psychische Gesundheitsunterstützung. Die häufigsten Anwendungen sind Angstmanagement (73 Prozent), persönliche Beratung (63 Prozent), Unterstützung bei Depressionen (60 Prozent), emotionale Einsicht (58 Prozent), Stimmungsverbesserung (56 Prozent), das Üben von Kommunikationsfähigkeiten (36 Prozent) und das Gefühl, weniger einsam zu sein (35 Prozent). 63 Prozent der Nutzer berichten, dass LLMs ihre psychische Gesundheit verbessert hätten, und 87 Prozent bewerten praktische Ratschläge als hilfreich oder sehr hilfreich. 90 Prozent nennen Zugänglichkeit als Grund für die Nutzung. Die Autoren interpretieren dies als möglicherweise größten Anbieter psychischer Gesundheitsunterstützung in den USA.

Demgegenüber steht die begrenzte klinische Evidenz. Die systematische Übersichtsarbeit in JMIR Mental Health schloss 40 Artikel ein, die meisten davon Pilotstudien, und betont, dass die klinische Anwendung von LLMs in der psychischen Gesundheit umstritten ist. Die cambridge.org-Übersichtsarbeit stellt ebenfalls fest, dass kaum prospektive Experimente vorliegen. Der Unterschied liegt in der Methodik: Sentio ist eine nicht-repräsentative Umfrage unter KI-Nutzern, die Selbstauskünfte zur Nutzung und subjektiven Wirkung erhebt. Sie misst Verbreitung und Erfahrung, nicht klinische Wirksamkeit oder Sicherheit. Die Übersichtsarbeiten werten dagegen systematisch Peer-Review-Literatur und klinische Studien aus, mit definierten Einschlusskriterien und Qualitätsbewertung. Eine hohe Nutzungsrate unter einer selbstselektierten Gruppe von KI-affinen Personen mit psychischen Problemen ist kein Beleg für therapeutische Qualität. Die Diskrepanz zwischen Nutzungsdaten und Studienlage zeigt, dass LLMs in der psychischen Gesundheit bereits weit verbreitet sind, während die Evidenzbasis noch dünn ist. Diese Lücke zwischen Praxis und Forschung ist ein zentrales Problem für die Bewertung des Einsatzes.

Zwischen Potenzial und Regulierungsbedarf: Wer muss handeln?

Aus den Widersprüchen und der neuen Survey ergeben sich Handlungsbedarfe für verschiedene Akteure. Technologieanbieter und Forschende profitieren von der Roadmap, die Phase III als Ziel definiert, und können ihre Entwicklungen daran ausrichten. Sie sollten jedoch transparent über den konzeptionellen Charakter der Phasen informieren und nicht den Eindruck erwecken, dass personalisierte Companions bereits klinisch validiert seien. Patientinnen und Patienten sowie traditionelle Berufsgruppen wie Psychotherapeuten und Psychiater sind Risikogruppen: Sie könnten auf Systeme treffen, deren Wirksamkeit und Sicherheit nicht ausreichend belegt sind. Die Sentio-Daten zeigen, dass die Nutzung bereits in großem Umfang stattfindet, unabhängig von der Regulierung. Fachgesellschaften und Regulierungsbehörden müssen ethische Leitlinien und Anforderungen an Sicherheitsnachweise entwickeln, bevor LLMs als Begleiter in der psychischen Gesundheit eingesetzt werden. Die cambridge.org-Übersichtsarbeit empfiehlt die Einhaltung von Reporting-Guidelines wie TRIPOD-LLM, um die Qualität der Studien zu verbessern. Zudem erschwert das Fehlen einer klaren Definition von generativer KI die Regulierung. Regulierungsbehörden sollten prüfen, ob LLMs als Medizinprodukte oder als Gesundheitsanwendungen einzustufen sind, und entsprechende Nachweise verlangen. Forschende sollten prospektive Experimente mit Teilnehmern durchführen, um die postulierten Phasen – insbesondere Phase III – empirisch zu untermauern. Nur so lässt sich das Potenzial der Technologie verantwortungsvoll nutzen, ohne die Sicherheit der Nutzer zu gefährden.