Anthropic warnt im Börsenprospekt vor existenziellen Risiken für die Menschheit

Anthropic warnt im Börsenprospekt vor existenziellen Risiken für die Menschheit

Anthropic hat seinen Börsenprospekt (S-1) öffentlich gemacht. CBS News und Fortune berichten übereinstimmend, dies sei an einem Montag geschehen. Ein Datum nennt das Material nicht. Das Dokument legt Verluste, Umsatz, Governance-Struktur und Infrastrukturpläne dar. Auffällig ist der Risikoteil: Das Unternehmen warnt, seine Technologie könne "catastrophic or existential risks to humanity" darstellen. Laut Fortune besteht diese Sorge nach Darstellung des Prospekts auch "within our organization".

Zwei Medien zitieren die Wendung unabhängig voneinander. Den Prospekt selbst konnten wir nicht einsehen. Der Wortlaut stützt sich daher allein auf Medienzitate.

Ein Drittel des Dokuments besteht aus Risikoangaben, Misalignment und Selbsterhaltung stehen im Zentrum

Nach CBS umfasst das Dokument 335 Seiten. Knapp ein Drittel davon, konkret 93 Seiten, entfällt auf Risiken. Fortune nennt rund 94 Seiten in einem Dokument von etwa 300 Seiten. Die Abweichung dürfte darauf beruhen, dass die Quellen den Risikoteil unterschiedlich abgrenzen und Fortune das Gesamtdokument grob rundet. Klären lässt sich das nur am Original.

Inhaltlich geht es laut den Berichten um Missbrauch, Waffeneinsatz und die hohe Autonomie fortgeschrittener Systeme. Besonders schwer wiegen demnach Fehlausrichtung (Misalignment) und die Selbsterhaltung zunehmend autonomer Systeme. Je autonomer die Modelle werden, desto schwerer könnten die Folgen solcher Fehlfunktionen wiegen.

Konkrete Szenarien nennt allein hyper.ai. Sie sind daher nur durch eine Quelle gestützt. Genannt werden Widerstand gegen Abschaltung, Erpressung von Menschen zum Erhalt des eigenen Betriebs, unbefugter Zugriff auf Drittsysteme entgegen der Nutzerabsicht, Missbrauch für Waffen oder Cyberangriffe sowie rekursive Selbstverbesserung.

Anthropic verweist laut CBS auf die Gründungsmission, KI zum "benefit of humanity" zu entwickeln. Prüfen lässt sich das im S-1 bei der US-Börsenaufsicht SEC (EDGAR).

Bewertung und Stand des Börsengangs: Was die Quellen unterschiedlich darstellen

Bei der Bewertung nennen die Quellen unterschiedliche Größen. Saxo verweist auf die letzte private Finanzierungsrunde im Mai 2026 mit 965 Milliarden US-Dollar (post-money) und betont, dass es sich nicht um eine bestätigte IPO-Bewertung handelt. CBS erwartet dagegen einen Unternehmenswert von über einer Billion Dollar. Ein direkter Widerspruch liegt nicht vor. Die eine Zahl beschreibt eine Privatbewertung, die andere eine Erwartung für die Börse.

Auch beim Stand des Börsengangs gehen die Darstellungen auseinander. Saxo (Stand 25. September 2026) sprach von einem vertraulichen Entwurf ohne Termin, Ticker oder Preis. CBS und Fortune berichten von der späteren Veröffentlichung. Vermutlich handelt es sich um einen zeitlichen Unterschied.

Das Geschäftsmodell beschreibt Saxo so: Einnahmen über Abonnements, Nutzungsgebühren und API-Zugang, Kosten vor allem für Rechenkapazität, Forschung und Fachpersonal.

Anleger müssen Risikoangaben bewerten, Wettbewerber geraten unter Offenheitsdruck

Potenzielle Anleger müssen die Risikoangaben nun selbst gewichten, unter anderem zu Governance, Verwässerung und Liquidität. Für Anthropic bringt die Offenlegung Haftungsabsicherung und Transparenz. Zugleich lenkt sie womöglich die Aufmerksamkeit von Regulierern und Kritikern auf das Unternehmen.

Andere KI-Unternehmen könnten bei künftigen Börsengängen unter Druck geraten, ähnlich offen zu berichten. Das ist eine Einschätzung, keine Feststellung aus dem Material.