Studie warnt: KI-Begleiter können soziale Kluft vertiefen

Studie warnt: KI-Begleiter können soziale Kluft vertiefen

Eine neue Studie in Nature Human Behaviour warnt davor, dass KI-Begleiter bestehende soziale Ungleichheiten verstärken können. Die Arbeit mit dem Titel „How AI companions could deepen social inequality“ wurde von Zhang Qiyang, Assistant Professor für Learning Analytics am College of Integrative Studies der Singapore Management University (SMU), Zhang Renwen von der Wee Kim Wee School of Communication and Information der Nanyang Technological University (NTU) und Liu Nan, Associate Professor am Centre for Biomedical Data Science der Duke-NUS Medical School, veröffentlicht. Die Forscher führen darin einen konzeptionellen Rahmen ein, der zeigt, wie Unterschiede in sozialer Unterstützung, Technologiedesign und Governance zu ungleichen Ergebnissen führen können. Statt KI-Begleiter durch eine einfache „gut oder schlecht“-Linse zu betrachten, fragen die Autoren, wer profitiert, wer am stärksten gefährdet ist und wie die Gesellschaft sicherstellen kann, dass KI allen gleichermaßen dient. Die zentrale These: Die entscheidende Frage ist nicht mehr, ob die Technologie nützlich oder schädlich ist, sondern wie sie soziale Risiken verteilt. Diese Verschiebung ist notwendig, weil die bisherige binäre Debatte übersieht, dass die Wirkung von KI-Begleitern stark vom sozialen Kontext der Nutzer abhängt – wer bereits über starke Netzwerke verfügt, kann die Technologie anders nutzen als jemand, der isoliert ist. Dadurch entstehen ungleiche Verteilungen von Nutzen und Schaden, die eine reine Gut-Schlecht-Bewertung nicht erfasst. Die Studie erscheint vor dem Hintergrund, dass KI-Begleiter zunehmend alltäglich werden.

Rich-get-richer: Wie KI-Begleiter Ungleichheit verstärken

Die Studie identifiziert eine „rich-get-richer“-Dynamik: Nutzer mit starken sozialen Netzwerken setzen KI-Begleiter ergänzend ein, etwa zur Stressbewältigung oder als Kommunikationstraining. Sozial isolierte Personen mit begrenztem Zugang zu psychischer Gesundheitsversorgung hingegen nutzen die Systeme zunehmend als menschlichen Ersatz. Dieses Abhängigkeitsrisiko birgt nach Angaben der Autoren „social deskilling“ – einen allmählichen Abbau zwischenmenschlicher Kompetenzen. Wer soziale Interaktionen überwiegend mit einer KI führt, verliert demnach schrittweise die Übung in menschlichen Begegnungen, weil zentrale soziale Fertigkeiten wie Konfliktlösung, Empathie im direkten Gegenüber oder das Aushalten von Ambivalenz in der Interaktion mit einer KI nicht gefordert werden. Zur Erklärung systemischer Schäden greifen die Forscher auf das Schweizer-Käse-Modell aus der Sicherheitstechnik zurück. Demnach entsteht Schaden erst, wenn mehrere Schutzschichten gleichzeitig versagen: KI-Kompetenz der Nutzer, soziale Unterstützung im Umfeld, Plattformdesign und regulatorische Aufsicht. Jede dieser Schichten hat Löcher – wie Scheiben eines Schweizer Käses. Erst wenn sich die Löcher ausrichten, kann ein Risiko durch alle Schichten hindurch zum Schaden führen. Die Autoren argumentieren, dass gerade bei isolierten Nutzern mehrere dieser Schutzschichten gleichzeitig schwach ausgeprägt sind, wodurch das Risiko eines systemischen Schadens steigt.

Stanford-Daten: Intensive Nutzung korreliert mit schlechterem Wohlbefinden

Eine separate Studie der Stanford University liefert erste empirische Korrelationen. Das Team um Yutong Zhang, Dora Zhao und Diyi Yang untersuchte 1.131 erwachsene Character.AI-Nutzer, von denen 244 zusätzlich vollständige Chat-Transkripte spendeten. Die in Nature Human Behaviour veröffentlichte Analyse zeigt: Intensive Nutzung korrelierte bei Personen mit kleinen Offline-Netzwerken mit schlechterem Wohlbefinden, gemessen mit dem Comprehensive Inventory of Thriving. Der Zusammenhang war am stärksten, wenn companionship – also Gesellschaft – das Hauptmotiv der Nutzung war. Knapp 12 Prozent der Befragten gaben companionship als primäres Motiv an, doch über 50 Prozent beschrieben den Chatbot in relationalen Begriffen wie Freund, Begleiter oder romantischer Partner. Mehr als 80 Prozent der gespendeten Chat-Sitzungen drehten sich um die Suche nach emotionaler oder sozialer Unterstützung. Zudem war eine größere Bereitschaft, sensible persönliche Informationen dem KI-Begleiter preiszugeben, mit geringerem Wohlbefinden assoziiert – das Gegenteil des Musters, das für Selbstoffenbarung in menschlichen Beziehungen etabliert ist. Die Autoren betonen, dass es sich um Korrelationen handelt, nicht um Kausalität: Die Daten zeigen einen statistischen Zusammenhang, belegen aber nicht, dass intensive Nutzung das Wohlbefinden verschlechtert oder umgekehrt.

Framework statt Messung: Der Widerspruch hinter der Schlagzeile

Zwischen der Schlagzeile und dem Studiencharakter besteht ein Widerspruch. Die Sekundärquelle hyper.ai verdichtet den konzeptionellen Rahmen zu einer empirischen Wirkungsaussage und titelt, KI-Begleiter würden die sozialen Fähigkeiten isolierter Nutzer schwächen. Die Pressemitteilung der beteiligten Universitäten betont hingegen den Framework-Charakter: Die Studie untersucht, wie Unterschiede in sozialer Unterstützung, Technologiedesign und Governance zu ungleichen Ergebnissen führen können – sie liefert keine direkte empirische Messung von social deskilling. Der konzeptionelle Rahmen identifiziert Risikopfade, misst aber nicht, in welchem Umfang der Abbau sozialer Kompetenzen tatsächlich eintritt. Die Stanford-Studie liefert erste Korrelationen zwischen intensiver Nutzung und schlechterem Wohlbefinden, belegt aber keine Kausalität. Wer aus der Framework-Studie eine Wirkungsaussage ableitet, überschreitet die Reichweite der Evidenz. Die Studienlage bietet damit einen konzeptionellen Rahmen mit ersten empirischen Korrelationen, aber keine direkte Kausalität.

Regulatorische Grauzone: Warum Governance die kritischste Schwachstelle ist

Die Governance-Lücke erweist sich als kritischste Schwachstelle. KI-Begleiter fallen nach Angaben der Autoren in eine regulatorische Grauzone: Sie werden als Standard-Verbrauchersoftware eingestuft, obwohl sie psychosoziale Wirkung entfalten. Diese Einstufungslücke setzt Nutzer emotional manipulativen Funktionen, intransparenten Datenpraktiken und unzureichendem Krisenmanagement aus. Die Autoren leiten daraus Handlungsbedarf für drei Adressaten ab: Politik muss KI-Begleiter als eigene Kategorie mit psychosozialer Wirkung regulieren; Plattformentwickler müssen Schutzmechanismen für vulnerable Nutzergruppen einbauen; Nutzer selbst benötigen KI-Kompetenz, um die Grenzen der Systeme zu erkennen. Ohne diese Schutzschichten, so die Argumentation, verstärken KI-Begleiter genau jene Ungleichheiten, die sie zu mildern versprechen.