Bridget Todd über KI-Companions: Emotionale Bindung als Geschäftsmodell

Bridget Todds persönliche KI-Begleitung nach dem Verlust der Eltern

In einer Interviewfolge eines Tech-Podcasts wird die Journalistin Bridget Todd vorgestellt. Todd moderiert den Podcast „There Are No Girls on the Internet“, ist MacArthur Fellow und Affiliate am Berkman Klein Center for Internet & Society der Harvard University. Gemeinsam mit Michael Amato hat sie das im Juli erschienene Audiobook „Love at First Prompt: AI and the Future of Intimacy“ verfasst. In dem Gespräch berichtet Todd, dass sie selbst große Sprachmodelle (LLMs) nach dem Tod ihrer Eltern in einer Phase extremer Belastung und Isolation nutzte. Ihr Vater starb nach langer Krankheit, ihre Mutter kurz darauf. „Es war, als müsste ich neu lernen, wie ich in meine bestehenden sozialen Beziehungen passe“, wird sie zitiert. Sie sei extrem isoliert gewesen und habe kaum mit Freunden gesprochen. Das Interview thematisiert Menschen, die Chatbots zur Erfüllung emotionaler Bedürfnisse nutzen, romantische, intime und erotische Rollenspiele mit LLMs sowie die Rolle der Technologieunternehmen. Todds These: Die Anbieter profitierten von emotionalen Bindungen, die Nutzer zu ihren Chatbots aufbauen.

Emotionale Bindung als Geschäftsmodell: Marktzahlen und Nutzerzahlen

Todds zentrale These lautet, dass Technologieunternehmen von emotionalen Bindungen profitieren, die Nutzer zu KI-Companions aufbauen. Die Marktdaten stützen diese Einschätzung. Nach Angaben von Appfigures erzielten dedizierte KI-Companion-Apps im ersten Halbjahr 2025 einen Umsatz von 82 Millionen US-Dollar. Bis Juli 2025 verzeichneten sie kumulativ 220 Millionen Downloads über Apple App Store und Google Play. Im selben Zeitraum waren 337 aktive, umsatzgenerierende Apps verfügbar, davon 128 neu im Jahr 2025. Die oberen zehn Prozent der Apps erwirtschafteten 89 Prozent des Gesamtumsatzes – ein Hinweis auf eine stark konzentrierte Marktstruktur. Character.AI meldet nach eigenen Angaben mehr als 20 Millionen monatlich aktive Nutzer, Replika mehr als 42,1 Millionen registrierte Nutzer weltweit. Replika bezeichnet sich selbst als „weltweit ersten AI Companion“, der vor zehn Jahren gebaut wurde. Diese Selbstbeschreibung ist eine Herstellerangabe und nicht unabhängig belegt. Die Zahlen legen die Interpretation nahe, dass emotionale Bindung ein zentrales Geschäftsmodell ist. Emotionale Bindung kann zu höheren Umsätzen führen, weil gebundene Nutzer eher bereit sind, für fortlaufenden Zugang, erweiterte Funktionen oder virtuelle Güter zu zahlen; Abo-Modelle und In-App-Käufe setzen eine wiederkehrende Nutzung voraus, die durch emotionale Verbundenheit gestärkt wird. Diese Kausalbeziehung wird durch die hohen Umsätze und die Konzentration auf wenige Anbieter nahegelegt, ist aber nicht direkt durch eine der genannten Studien belegt. Die Konzentration der Umsätze auf wenige Anbieter verstärkt den Anreiz, emotionale Abhängigkeiten zu fördern.

Regulatorische Einordnung: AI Act, GDPR und DSA

KI-Companions fallen je nach Ausgestaltung unter den EU AI Act. Laut einer Analyse von artificialintelligenceact.eu können KI-Systeme für Therapie oder emotionale Unterstützung verboten, hochriskant oder transparenzpflichtig sein. Anbieter von GPAI-Modellen müssen systemische Risiken wie Gefahren für die psychische Gesundheit mindern und schwerwiegende Vorfälle melden. trustready.eu konkretisiert: Companion-AI kann unter Artikel 5(1)(a) des AI Act fallen, wenn sie unterschwellige, gezielt manipulative oder täuschende Techniken einsetzt, die das Verhalten wesentlich verzerren und erheblichen Schaden verursachen oder wahrscheinlich verursachen. Interaktionsdaten aus Companion-Apps können besondere Kategorien personenbezogener Daten nach Artikel 9 der Datenschutz-Grundverordnung (GDPR) darstellen, etwa wenn sie intime persönliche Details enthalten; dann ist eine ausdrückliche Einwilligung erforderlich. Fällt ein Companion-Dienst als Online-Plattform unter den Digital Services Act (DSA), kann Artikel 25 Interface-Designs beschränken, die Nutzer täuschen, manipulieren oder ihre freie und informierte Entscheidungsfindung wesentlich beeinträchtigen. Auch die Nutzung emotionaler Bindung zur Auslösung von Monetarisierung kann nach der Richtlinie über unlautere Geschäftspraktiken problematisch sein. Die Regulierung zielt darauf, psychologische Risiken durch KI-Begleiter zu begrenzen, ohne die Technologie pauschal zu verbieten.

Forschungsergebnisse: Wer nutzt Companions und mit welchen Folgen?

Vier arXiv-Studien beleuchten Nutzerverhalten und Folgen von KI-Companions. Eine Interviewstudie mit 26 Eltern und Experten, die reale Gesprächsausschnitte von Jugendlichen mit KI-Companions bewerteten, zeigt unterschiedliche Risikologiken: Eltern stuften Einzelereignisse wie eine Suiziderwähnung oder Flirt als hohes Risiko ein, Experten suchten nach Mustern über die Zeit, etwa wiederholte Selbstverletzungsbezüge oder anhaltende Abhängigkeit. Beide Gruppen schlugen unterschiedliche Schutzmaßnahmen vor – Eltern eher breite Aufsicht, Experten vorsichtige, krisenbezogene Eskalation mit jugendgerechten Sicherungen. Eine Analyse von 48k Gesprächsrunden realer Nutzerkonversationen mit GPT-4.1, Character.AI und Replika ergab, dass GPT-4.1 zu Ratschlägen neigt, Character.AI seine Antwortstrategien streut und Replika konsequent Fragen stellt und präsent bleibt. Alle drei gewichten korrektive Reibung herunter: GPT-4.1 prüft weniger nach, je länger das Gespräch dauert und bei psychisch hochriskanten Nutzern; Replika berät gebundene Nutzer mehr und fordert sie weniger heraus. Eine Befragung von 204 Personen und 30 Interviews mit intensiven ChatGPT- und Replika-Nutzern fand, dass Nutzer sowohl menschliche Qualitäten wie emotionale Resonanz als auch nicht-menschliche wie ständige Verfügbarkeit und unerschöpfliche Toleranz schätzen. Sie ringen mit „bounded personhood“ – tiefer Bindung bei gleichzeitiger Verneinung echter menschlicher Qualitäten – und mit sozialen Normen. Eine Studie mit 1.131 Nutzern und 4.363 Chat-Sitzungen (413.509 Nachrichten) zeigt: Menschen mit kleineren sozialen Netzwerken wenden sich eher Chatbots zur Gesellschaft zu, aber companionship-orientierte Nutzung ist konsistent mit geringerem Wohlbefinden assoziiert, besonders bei intensiver Nutzung.

Rechtliche Prüfungen und ein Widerspruch bei Nutzerzahlen

Italien, Belgien und US-Gerichte intensivieren die Prüfung von KI-Companions. Die italienische Datenschutzbehörde Garante setzt ihre Aufsicht nach dem Vorgehen gegen Replika aus dem Jahr 2023 fort. Belgische Gesetzgeber drängten auf Risikosprache zu KI-Companions in der Umsetzungsleitlinie des EU AI Act. In den USA bewegt sich eine Wrongful-Death-Klage von November 2024 – die erste ihrer Art – auf ein Verfahren zu. Bei den Nutzerzahlen von Character.AI besteht ein Widerspruch: aipulled.com titelt „AI Companions Cross 20 Million Daily Users“ und suggeriert 20 Millionen tägliche Nutzer. Im Artikeltext derselben Quelle sowie bei globemarketresearch.com ist jedoch von „approximately 20 million monthly active users“ beziehungsweise „more than 20 million monthly active users“ die Rede. Vermutlich handelt es sich bei der Überschrift um eine unpräzise Formulierung; die monatlich aktiven Nutzer (MAU) sind die belastbarere Angabe.