OpenAI meldet über 200 Gewaltdrohungen an Behörden und zieht bei ChatGPT engere Grenzen

OpenAI nennt über 200 Gewaltmeldungen an Behörden im dritten Quartal

OpenAI hat am 30. Oktober 2026 mitgeteilt, im dritten Quartal 2026 mehr als 200 Meldungen an Strafverfolgungsbehörden wegen drohender Gewalt verschickt zu haben. Die Zahl stammt aus dem eigenen Blogbeitrag des Unternehmens. Unabhängig prüfen lässt sie sich bislang nicht. Außerdem schreibt OpenAI, die Meldungen hätten „einen positiven Unterschied“ bei der Verhinderung gewalttätiger Pläne gemacht. Das ist eine Herstellerangabe, und im vorliegenden Material fehlt ein Beleg dafür.

Laut ppc.land nennt der Beitrag weder die Länder oder Behörden, an die sich die Meldungen richteten, noch eine Aufschlüsselung nach Art der Bedrohung. Ob es zu Festnahmen oder Anklagen kam, bleibt im vorliegenden Textauszug offen. Vergleichswerte fehlen ebenfalls. Frühere Zahlen von OpenAI zu solchen Meldungen liegen nicht vor. Ob das Aufkommen steigt oder sinkt, lässt sich deshalb nicht sagen.

Neue Grenzen: weniger Tatdetails, Gesprächsabbruch, keine Waffeninfos für Jugendliche

Für alle Nutzer soll ChatGPT künftig weniger Details zu vergangenen Massenattacken und ihren Tätern liefern, auch wenn die Informationen anderswo im Netz stehen. Keine Taten soll das Modell rekonstruieren, etwa eingesetzte Waffen oder deren Beschaffung. Detaillierte Vergleiche des angerichteten Schadens vermeidet es ebenfalls. Laut OpenAI gelten diese Grenzen unabhängig von Alter und Anfragegrund. Fragen zu den Folgen für Opfer und Gemeinschaften sowie zu Warnzeichen bleiben erlaubt.

Zeigt ein Gespräch Anzeichen einer Fixierung auf Gewalt oder schwere Schädigung anderer, kann ChatGPT den Chat automatisch beenden. Wiederholt sich das, kann OpenAI das Konto zeitweise pausieren.

Bei Konten, die das System als unter 18 einschätzt, entfallen praktische Informationen zu Waffen und Sicherheitssystemen. Das gilt selbst bei harmlos wirkenden Fragen ohne Gewaltabsicht. Die Altersvorhersage schätzt das Alter unter anderem anhand von Verhaltenssignalen. Laut Unternehmen wurde sie verstärkt und prüft laufend neue Signale. Eltern werden benachrichtigt, wenn ein Teen-Konto wegen wiederholter Gewaltthemen pausiert wird. Die Maßnahmen sollen laut OpenAI in den nächsten Wochen ausgerollt werden.

Ob die Regeln strenger sind als frühere Richtlinien, geht aus dem Material nicht hervor. Unklar bleibt auch, ob legitime Anfragen aus Fiktion, Recherche oder Journalismus künftig zu Unrecht blockiert werden.

Tumbler Ridge erhöht den Druck: Sicherheitsbericht alle sechs Monate

Auslöser des Drucks ist die Schießerei in Tumbler Ridge in British Columbia am 10. Februar 2026. OpenAI hatte das Konto der späteren Täterperson im Juni 2025 nach einer automatischen Markierung geprüft und gesperrt. Der Fall ging jedoch nicht an die Polizei. Nach Einschätzung der Unternehmensführung war die Schwelle eines „glaubwürdigen und unmittelbaren“ Risikos nicht erreicht. Die Provinzregierung von British Columbia hat inzwischen in Kalifornien Klage gegen OpenAI eingereicht. Sie wirft dem Unternehmen vor, die Polizei nicht gewarnt zu haben.

Als Transparenzzusage kündigt OpenAI einen Community Safety Report an. Im Einleitungstext nennt der Blogbeitrag ihn auch Community Safeguards Report. Der erste Bericht soll Anfang 2027 erscheinen und die zweite Jahreshälfte 2026 abdecken. Danach soll er alle sechs Monate folgen. Erst dieser Bericht kann zeigen, ob die genannten Zahlen und die behauptete Wirkung der Meldungen belastbar sind.