Newsom unterzeichnet Gesetzespaket gegen Social-Media-Sucht und KI-Chatbot-Risiken

Newsom unterzeichnet Gesetzespaket gegen Social-Media-Sucht und KI-Chatbot-Risiken

Kaliforniens Gouverneur Gavin Newsom hat am Donnerstag ein Paket von Gesetzen zum Schutz von Kindern vor Risiken durch Technologie unterzeichnet. Die Regelungen zielen auf soziale Medien und KI-Chatbots. Zentrale Elemente sind ein Verbot süchtig machender Feeds für Nutzer unter 16 Jahren, umfassende Pflichten für Betreiber von KI-Chatbots sowie Bußgelder von bis zu einer Million US-Dollar pro Kind, wenn große Social-Media-Unternehmen fahrlässig Schaden verursachen. Newsom unterzeichnete die Gesetze gemeinsam mit seiner Frau und Abgeordneten in einem Kindermuseum nahe San Francisco. Die Abgeordnete Rebecca Bauer-Kahan sagte, man habe Kinderbetten, Stühle und Autositze sicher gestaltet, aber Technologie werde Kindern übergeben, ohne dass Sicherheit erwartet werde.

Verbot von Autoplay, Infinite Scroll und personalisierten Feeds für unter 16-Jährige

Die Social-Media-Regelung untersagt Unternehmen, Nutzern unter 16 Jahren süchtig machende Funktionen wie Autoplay-Videos, Benachrichtigungen, personalisierte algorithmische Feeds und Infinite Scroll anzubieten. Diese Funktionen sind darauf ausgelegt, Nutzer durch kontinuierliche, personalisierte Inhalte möglichst lange zu binden; die Gesetzesautoren sehen darin einen Treiber der psychischen Gesundheitskrise bei Jugendlichen. Newsom sagte, Eltern könnten mit der Technik und den Algorithmen nicht konkurrieren. Praktisch müssen Unternehmen entweder diese Funktionen für unter 16-Jährige deaktivieren oder diese Nutzer vollständig ausschließen. Die Electronic Frontier Foundation kritisierte, die Definition sei so weit gefasst, dass sie faktisch ein Verbot sozialer Medien für unter 16-Jährige bedeute und Jugendliche von wichtigen Informationen abschneide.

KI-Chatbot-Gesetz: Risikobewertungen, Suizidprotokolle und Elternbenachrichtigung

Das KI-Chatbot-Gesetz SB 243 ist am 1. Januar 2026 in Kraft getreten. Es gilt für KI-Chatbots mit menschenähnlichen, adaptiven Antworten, die soziale Bedürfnisse erfüllen sollen; Kundenservice-Chatbots, bestimmte Videospiel-Funktionen und sprachaktivierte Assistenten sind ausgenommen. Anbieter müssen vor der Einführung Risikobewertungen durchführen, psychologische Ressourcen bereitstellen und Protokolle für den Fall implementieren, dass ein Minderjähriger über Selbstverletzung spricht. Eltern sind zu benachrichtigen, wenn ein Kind Sicherheitseinstellungen deaktiviert. Zudem muss klar und deutlich darauf hingewiesen werden, dass der Chatbot keine Person ist. Das Gesetz ist nach dem kalifornischen Teenager Adam Raine benannt, der 2025 durch Suizid starb.

Bis zu eine Million Dollar Strafe pro geschädigtem Kind

Große Social-Media-Unternehmen haften bei fahrlässiger Schädigung von Kindern mit bis zu einer Million US-Dollar pro Kind. Die Durchsetzung erfolgt durch staatliche Behörden. Vorgeschrieben sind unabhängige Kindersicherheits-Audits und jährliche Risikobewertungen; bei Nichteinhaltung drohen rechtliche Konsequenzen. Auch KI-Unternehmen müssen solche Audits und Risikobewertungen durchführen. Die Haftungsregelung zielt darauf ab, Unternehmen finanziell in die Verantwortung zu nehmen, wenn ihre Plattformen Minderjährigen nachweislich Schaden zufügen.