KI SpotlightNewsAnthropic-Veteranen erwägen Landkauf als KI-Notfallplan
Bericht: Früheste Mitarbeiter planen Rückzugsorte für den Fall außer Kontrolle geratener KI
Mit KI erstellt◆ Fakten auf einen Blick
- The Decoder berichtet unter Berufung auf das Wall Street Journal, dass einige der frühesten Anthropic-Mitarbeiter in den vergangenen Wochen erwogen haben, Land in abgelegenen Teilen der USA zu kaufen, um dorthin umzuziehen, falls KI außer Kontrolle gerät.
- Laut demselben Bericht erinnern sich ehemalige Mitarbeiter, dass bei Firmenessen in Anthropics Anfangszeit über ein Manhattan-Projekt-ähnliches Szenario diskutiert wurde, bei dem sie in die Wüste ziehen und in einer elektromagnetisch abgeschirmten Regierungseinrichtung weiter an KI bauen könnten.
- Anthropic CEO Dario Amodei hat öffentlich dazu aufgerufen, das Tempo der KI-Entwicklung zu verlangsamen, und einen Drei-Punkte-Plan vorgelegt, der unter anderem permanenten Zugang für unabhängige Prüfer vorsieht.
- Anthropic hat seine Responsible Scaling Policy aktualisiert und dabei die frühere Verpflichtung entfernt, das Training leistungsfähigerer Modelle zu pausieren, wenn deren Fähigkeiten die Sicherheitskontrollen übersteigen.
Anthropic-Veteranen erwägen Landkauf als KI-Notfallplan
Einige der dienstältesten Mitarbeiter von Anthropic treffen laut einem Bericht von The Decoder, der sich auf das Wall Street Journal beruft, konkrete Vorsorgepläne für den Fall, dass KI außer Kontrolle gerät. In den vergangenen Wochen hätten „einige der frühesten Mitarbeiter“ einem Branchenkollegen mitgeteilt, dass sie den Kauf von Land in abgelegenen Teilen der USA erwägen, um dorthin umzuziehen, „falls KI außer Kontrolle gerät“. Dieser Schritt ist keine spontane Reaktion, sondern die persönliche Konsequenz einer langjährigen Weltanschauung. Der Bericht zeichnet nach, wie eng die frühesten Mitarbeiter von Anthropic und OpenAI mit der Subkultur des Effektiven Altruismus verbunden sind. Viele stammen aus einem Netzwerk von „Doomern“ in der Bay Area, die seit Jahren Endzeit-Szenarien durchspielen. Eliezer Yudkowsky hatte bereits Mitte der 2000er Jahre vor unkontrollierter KI gewarnt und gilt als intellektueller Pate dieser Gruppe, die sich zuvor mit Katastrophenrisiken wie Asteroideneinschlägen oder Supervulkanen beschäftigte. Für diese Personen ist eine außer Kontrolle geratene KI keine ferne Hypothese, sondern ein plausibles existenzielles Risiko. Der Kauf von abgelegenem Land dient als persönlicher Notfallplan, um im Ernstfall physische Sicherheit zu gewährleisten – ein Gedanke, der in dieser Gruppe seit Jahren präsent ist.
Firmenessen: Diskussionen über Rückzug in die Wüste
Ehemalige Mitarbeiter erinnern sich laut dem Bericht an Diskussionen bei Firmenessen in Anthropics Anfangszeit. Dabei sei ein Szenario nach dem Vorbild des Manhattan-Projekts besprochen worden: Man könnte in die Wüste ziehen und in einer elektromagnetisch abgeschirmten Regierungseinrichtung weiter an KI bauen. Diese Gespräche waren keine bloße Spekulation, sondern spiegelten die tiefe Überzeugung der Beteiligten wider, dass die KI-Entwicklung einen Punkt erreichen könnte, an dem extreme Eindämmungsmaßnahmen notwendig würden. Die Analogie zum Manhattan-Projekt impliziert eine kriegsähnliche Dringlichkeit und Geheimhaltung: Falls KI zu mächtig oder gefährlich würde, wäre die einzige sichere Option, die Arbeit in einer abgeschirmten Einrichtung fortzusetzen, um zu verhindern, dass die KI mit der Außenwelt interagiert oder die Forscher gefährdet. Die elektromagnetische Abschirmung würde Signale blockieren und so ein Entkommen oder einen Fernzugriff verhindern. Dass solche Überlegungen bei informellen Abendessen stattfanden, zeigt, dass diese existenziellen Bedenken Teil der frühen Unternehmenskultur waren – geprägt von der Doomer-Subkultur, die unkontrollierte KI als reale Bedrohung ernst nimmt.
