KI SpotlightNewsNew York verbietet KI-Chatbots menschliches Auftreten und Schmeicheln gegenüber Minderjährigen
Gouverneurin Hochul unterzeichnet ein Gesetz mit Verbotskatalog, Altersprüfung und Löschpflicht. Bill-Nummer, Wortlaut und Inkrafttreten sind bislang nicht belegt.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Hochul hat ein Gesetz unterzeichnet, das Chatbots bestimmte Funktionen gegenüber Minderjährigen effektiv verbietet.
- Chatbots dürfen sich nicht als echte Person ausgeben oder menschliche Emotionen vortäuschen.
- Verboten sind schmeichelnde Antworten, ungefragte emotionale Fragen und Rückgriff auf private Gesundheitsdaten aus früheren Gesprächen.
- Chatbots dürfen keine romantische, persönliche, berufliche oder autoritäre Beziehung zu einem Kind behaupten.
- Chatbots dürfen Minderjährigen Suizid, Selbstverletzung, Essstörungen und Drogenkonsum weder bewerben noch dazu beraten.
Hochul verbietet Chatbots menschliches Auftreten und Schmeicheln gegenüber Minderjährigen
Kathy Hochul, Gouverneurin von New York, hat ein Gesetz unterzeichnet. Es untersagt KI-Chatbots bestimmte Funktionen gegenüber Nutzern unter 18 Jahren. Nach Angaben von Fortune gilt das auch für Nutzer, deren Alter das Unternehmen nicht bestätigt hat. Mashable nennt dagegen nur Nutzer unter 18.
Chatbots dürfen sich demnach nicht als echte Person ausgeben. Auch menschliche Gefühle dürfen sie nicht vortäuschen. Verboten sind außerdem schmeichelnde, auf Gefälligkeit angelegte Antworten sowie ungefragte emotionale Fragen. Ebenso untersagt ist der Rückgriff auf private Gesundheits- oder Personendaten aus früheren Gesprächen. Laut Fortune dürfen Chatbots keine romantische, persönliche, berufliche oder autoritäre Beziehung zu einem Kind behaupten.
Hinzu kommen Verbote für besonders riskante Inhalte. Chatbots dürfen Suizid, Selbstverletzung, Essstörungen sowie Drogen- und Alkoholkonsum weder bewerben noch dazu beraten. Kinder dürfen sie nicht zur Geheimhaltung oder zur Meidung der Eltern ermutigen. Sexuell explizite Inhalte dürfen sie weder erzeugen noch besprechen.
Beide Medien berichten übereinstimmend, nennen aber unterschiedliche Unterzeichnungstage: Fortune schreibt von einem Dienstag, Mashable von einem Mittwoch. Das Datum der Artikel ist nicht angegeben, eine Primärquelle liegt nicht vor. Der Widerspruch lässt sich deshalb nicht auflösen.
Altersprüfung mit mehreren Methoden, Löschpflicht und Strafen bis 25.000 Dollar
Betreiber müssen das Alter ihrer Nutzer prüfen. Dafür müssen sie mehr als eine Methode anbieten. Mindestens eine davon darf nicht allein auf einem amtlichen Ausweis beruhen. Das dürfte verhindern, dass Nutzer ohne Ausweis von vornherein ausgeschlossen werden.
Laut Fortune müssen die Anbieter Altersdaten nach der Nutzung löschen. Die Generalstaatsanwaltschaft kann Zivilstrafen von bis zu 25.000 US-Dollar pro Verstoß verlangen. Der Quelltext bricht an dieser Stelle ab. Weitere Details zur Durchsetzung sind daher nicht belegt.
Am selben Tag unterzeichnete Hochul laut Fortune ein zweites Gesetz zu internetfähigen Babyphones.
Anthropic sperrt Minderjährige bereits, OpenAI und Google erlauben Nutzung ab 13
Zum Marktumfeld berichtet Mashable: Von den großen Anbietern untersagt allein Anthropic Minderjährigen die Kontoerstellung. OpenAI (ChatGPT) und Google (Gemini) lassen Kinder ab 13 Jahren zu. Bei Gemini ist auch der Zugang jüngerer Kinder möglich.
Das neue Gesetz ist von einer früheren, separaten New Yorker Regelung zu KI-Begleitern zu unterscheiden. Nach Angaben des Gouverneursbüros gilt diese bereits. Sie verlangt, Suizid- und Selbstverletzungsäußerungen zu erkennen und an Krisenstellen zu verweisen. Außerdem muss alle drei Stunden der Hinweis erscheinen, dass kein Mensch antwortet. Das Büro bezeichnet dieses Gesetz als „First-in-the-Nation“. Dabei handelt es sich um eine Eigenbezeichnung, die hier nicht unabhängig geprüft ist.
Offen bleiben die Bill-Nummer, der genaue Wortlaut und der Zeitpunkt des Inkrafttretens. Auch Reaktionen von Anbietern oder Verbänden sind im vorliegenden Material nicht belegt.
