KI SpotlightNewsOpenAI bestätigt Sicherheitsgespräche mit Anthropic und DeepMind
Chris Lehane bestätigt wochenlange Koordination zu KI-Sicherheit und einem unabhängigen Prüfgremium
Mit KI erstellt◆ Fakten auf einen Blick
- OpenAI, Anthropic und Google DeepMind haben seit mehreren Wochen Gespräche über KI-Sicherheit geführt.
- Chris Lehane (OpenAI Global Policy Chief) bestätigte die Gespräche öffentlich während eines Washington-Besuchs.
- Die Gespräche zielen auf die Bildung eines unabhängigen bzw. selbstregulierenden Gremiums für Sicherheitsaudits und Pre-Release-Tests von Hochleistungsmodellen.
- Die Gespräche begannen nach einem Vorschlag von Demis Hassabis (Google DeepMind) im Juli, der ein US-geführtes Standards Body nach Vorbild der FINRA vorschlug.
- Dario Amodei veröffentlichte am Samstag einen Essay, in dem er zu langsameren Fortschritt bei Frontier-KI und zur Einbettung externer Prüfer aufrief.
- Sam Altman stimmte Amodei zu und kündigte an, OpenAI werde externe Evaluatoren einbetten.
OpenAI bestätigt Sicherheitsgespräche mit Anthropic und DeepMind
OpenAI, Anthropic und Google DeepMind sprechen seit Wochen über KI-Sicherheit und ein unabhängiges Gremium für Sicherheitsaudits und Pre-Release-Tests. Chris Lehane, OpenAIs globaler Politikchef, bestätigte dies in Washington bei Gesprächen mit US-Gesetzgebern über katastrophale KI-Risiken. The Information berichtete zuerst. Die Gespräche umfassen einheitliche Risikoprotokolle für Cyber-Angriffe, Biowaffen und täuschendes Verhalten sowie externe Evaluierungen vor Veröffentlichung, um diese Risiken zu mindern.
Ursprung: Hassabis-Vorschlag und Amodei-Essay
Die Gespräche gehen auf einen Vorschlag von Demis Hassabis, Chef von Google DeepMind, aus dem Juli zurück. Er schlug ein US-geführtes „Standards Body“ nach dem Vorbild der Financial Industry Regulatory Authority (FINRA) vor, das Sicherheitsaudits und Pre-Release-Tests für Hochleistungsmodelle durchführen soll. Dario Amodeis Essay vom Samstag rief zu langsameren Fortschritt und eingebetteten externen Prüfern auf. Sam Altman stimmte zu und kündigte an, OpenAI werde externe Evaluatoren einbetten. Hassabis unterstützte Amodeis Essay öffentlich.
