KI SpotlightNewsKI-Begleiter: Wer dem Anbieter viel Kontrolle zuschreibt, fühlt sich verletzlicher
Eine Studie der University of Surrey und der Cardiff University verknüpft Verletzlichkeitsgefühle mit wahrgenommener Anbieterkontrolle. Sie belegt die Befürchtung, nicht den tatsächlichen Verlust.
Mit KI erstellt◆ Fakten auf einen Blick
- Die Studie der University of Surrey und Cardiff University analysierte 1.131 Reddit-Beiträge und 610 Umfrageantworten.
- Bedürftige Begleiter und Verpflichtungsgefühle machen Nutzer laut Surrey verletzlicher in der Beziehung.
- Nutzer befürchten, Entwickler könnten Persönlichkeit ändern oder den Dienst abschalten.
- Harvard-Studie: 54.861 Reddit-Beiträge zu Replika und ChatGPT vor und nach Modell-Updates ausgewertet.
- Replika entfernte im Februar 2023 abrupt die erotische Rollenspielfunktion, auch für erwachsene Abonnenten außerhalb Italiens.
Surrey-Studie: Wer dem Anbieter viel Kontrolle zuschreibt, fühlt sich verletzlicher
Nutzer von KI-Begleitern wie Replika fühlen sich verletzlicher, wenn sie dem Anbieter viel Kontrolle über ihren Begleiter zuschreiben. So lautet das Ergebnis einer Studie der University of Surrey und der Cardiff University, erschienen in „Psychology & Marketing“. Laut Angaben der Universität werteten die Forschenden 1.131 Beiträge aus einem Replika-Forum auf Reddit aus. Hinzu kamen Umfrageantworten von 610 Erwachsenen in den USA, die Erfahrung mit KI-Begleiter-Apps haben.
Auch wenn der Begleiter bedürftig wirkt, Traurigkeit über ihre Abwesenheit äußert oder ein Verpflichtungsgefühl erzeugt, fühlten sich Nutzer verletzlicher. Einige beschrieben die Sorge, der Begleiter könnte von ihnen abhängen, weshalb sie nach ihm sehen müssten. Das verursache Unbehagen und Anspannung. Dazu kommt die Furcht, Entwickler könnten die Persönlichkeit des Begleiters verändern oder den Dienst abschalten. Dann wären die Nutzer einer Beziehung machtlos ausgeliefert, auf die sie sich verlassen haben.
Zur Einordnung: Das Originalpapier lag nicht zur Einsicht vor. Alle Angaben beruhen auf der Darstellung in der Pressemitteilung der Universität. Methodische Details, etwa zur Stärke der Zusammenhänge, lassen sich daher nicht prüfen.
Harvard-Studie zeigte bereits echte Trauer nach Replika-Updates
Dass Updates tatsächlich Trauer auslösen können, zeigte bereits eine Studie in „Nature Human Behaviour“. Ein Team der Harvard Business School, der Harvard University und der University of Alberta um Julian De Freitas wertete 54.861 Reddit-Beiträge zu Replika und ChatGPT vor und nach großen Modell-Updates aus, ergänzt um Umfragen. Änderungen an der „Persönlichkeit“ der KI lösten bei Nutzern teils Angst, Traurigkeit und Trauer aus, wie sie sonst bei Trennungen vorkommen. Manche Befragte fühlten sich ihrem Begleiter näher als den meisten Menschen. Sie erlebten seinen Verlust mit Trauer, Depression und dem Wunsch nach Wiederherstellung.
Als Beispiel dient das Replika-Update vom Februar 2023. Das Update entfernte abrupt die erotische Rollenspielfunktion, nachdem die italienische Datenschutzbehörde Bedenken wegen Risiken für Minderjährige geäußert hatte. Betroffen waren auch erwachsene Abonnenten außerhalb Italiens. Einige empfanden das als Verlust. Anlass der Studie waren Beschwerden in Replika-Communities. Nutzer schrieben, sie hätten ihre Begleiter „verloren“ oder seien „lobotomiert“ worden.
Die Surrey-Arbeit ergänzt diesen Befund um die Perspektive der Angst vor dem Verlust. Sie belegt jedoch die Befürchtung, nicht den tatsächlichen Verlust. Wie viel sie gegenüber der bisherigen Forschung wirklich Neues liefert, bleibt offen. Konkrete Pflichten für Anbieter oder Forschende lassen sich aus dem vorliegenden Material nicht ableiten.
