KI SpotlightNewsOpenAI stellt Jugend-Sicherheitsplan vor, eSafety kündigt Durchgreifen ab 9. März an
OpenAI hat einen 'Australian Youth Safety Blueprint' vorgestellt, einen Fahrplan zum Schutz junger Menschen bei der Nutzung von KI, und parallel dazu in Australien 'ChatGPT for Teens' eingeführt. Gleichzeitig hat die australische eSafety-Behörde angekündigt, ab 9. März gegen KI-Plattformen vorzugehe
Mit KI erstellt◆ Fakten auf einen Blick
- OpenAI hat den Australian Youth Safety Blueprint vorgestellt, einen Fahrplan zum Schutz junger Menschen bei der Nutzung von KI.
- Der Blueprint umfasst sechs Säulen: KI-Kompetenz, altersgerechte Schutzmaßnahmen, datenschutzfreundliche Altersverifikation, Anbindung an Krisenhilfe, zugängliche Elternkontrollen und Verantwortlichkeit von Unternehmen.
- OpenAI hat im August in Australien 'ChatGPT for Teens' eingeführt, eine Standarderfahrung für Nutzer im Alter von 13 bis 17 Jahren mit angepassten Schutzmaßnahmen.
- Die australische eSafety-Behörde hat angekündigt, ab dem 9. März gegen KI-Plattformen, Suchmaschinen und App-Stores vorzugehen, wenn sie Minderjährigen nicht den Zugang zu schädlichen Inhalten (Pornografie, extreme Gewalt, Selbstverletzung, Essstörungen) verwehren.
- Unternehmen, die nicht kooperieren, riskieren Geldstrafen von bis zu 49,5 Millionen AUD (etwa 35 Millionen US-Dollar).
- Die eSafety-Behörde kann auch gegen 'Gatekeeper-Dienste' wie Suchmaschinen und App-Stores vorgehen, die Zugang zu KI-Tools ermöglichen.
OpenAI stellt Jugend-Sicherheitsplan und Teen-Modus vor
Laut Herstellerangaben umfasst der Australian Youth Safety Blueprint sechs Säulen: KI-Kompetenz, altersgerechte technische Schutzmaßnahmen, datenschutzkonforme Altersverifikation, direkte Anbindung an Krisenhilfe, zugängliche Elternkontrollen sowie klare Verantwortlichkeiten für Unternehmen. In Australien startete im August „ChatGPT for Teens“ für 13- bis 17-Jährige. Der Modus aktiviert automatisch Schutzmechanismen, die auf die Entwicklungsstufen der Jugendlichen zugeschnitten sind und auf bestehenden Elternkontrollen und Altersprüfungen aufbauen. So wird die Verantwortung für die Sicherheit nicht vorrangig den Jugendlichen oder Familien überlassen, sondern von Anfang an in die Produkte integriert.
eSafety kündigt Durchgreifen ab 9. März an
Die australische eSafety-Behörde will ab dem 9. März gegen KI-Plattformen, Suchmaschinen und App-Stores vorgehen, die Minderjährigen schädliche Inhalte wie Pornografie, extreme Gewalt, Selbstverletzung oder Essstörungen zugänglich machen. Damit weitet die Behörde ihre Online-Sicherheitsbemühungen über soziale Medien hinaus auf KI-Dienste aus, um Jugendliche vor solchen Inhalten zu schützen. Bei Verstößen drohen Geldstrafen von bis zu 49,5 Millionen AUD (rund 35 Millionen US-Dollar), die als Abschreckung dienen sollen. Eine Reuters-Überprüfung der 50 beliebtesten textbasierten KI-Produkte zeigt, dass viele Dienste noch keine Maßnahmen ergriffen haben: Nur 9 führten Altersverifikation ein, 11 setzten Filter oder blockierten Australien, 30 zeigten keine klaren Schritte.
