Dreamforce: Huang und Amodei streiten über das KI-Tempo

Dreamforce-Bühne wird zum Schauplatz des KI-Tempostreits

Bei der Dreamforce-Konferenz 2026 in San Francisco haben Nvidia-CEO Jensen Huang und Anthropic-CEO Dario Amodei am 15. September vor rund 12.000 Zuschauern im Moscone Center gegensätzliche Positionen zum Tempo der KI-Entwicklung vertreten. Amodei forderte eine Verlangsamung, Huang lehnte ab. Die Wahl zwischen Geschwindigkeit und Sicherheit sei eine "falsche Wahl", sagte Huang, und ergänzte: "Run as fast as you can." Amodei hatte zuvor in einem Essay zur Verlangsamung aufgerufen. Die Aussagen fielen innerhalb weniger Minuten auf derselben Bühne. Die Debatte über das Tempo der KI-Entwicklung ist in der US-Tech-Branche zuletzt eskaliert.

Amodeis Drei-Punkte-Plan: Prüfer, Koordination, globale Standards

Amodei schlug drei konkrete Maßnahmen vor. Erstens: unabhängige Prüfer, die direkt in KI-Unternehmen eingebettet werden, um Sicherheitsprozesse und Modellfähigkeiten von innen zu bewerten. Zweitens: die Koordination von Sicherheitsstandards unter demokratischen Ländern. Drittens: später eine größere globale Koordination, die über demokratische Staaten hinausgeht. Anthropic habe sich bereits zu unabhängigen Evaluatoren verpflichtet, sagte Amodei, und werde mit der restlichen Industrie über die beiden anderen Schritte in Dialog treten.

Seine Auto-Analogie verdeutlichte den Kern: Wenn bei einem konkurrierenden Autohersteller die Bremsen versagen, sei es verlockend, den Konkurrenten als unsicher anzugreifen. Verantwortungsvoller sei jedoch, die eigene Sicherheitsbilanz zu prüfen – auch ohne öffentlichen Vorfall könne man nicht perfekt sein. Übertragen auf KI bedeute das: Statt nach einem Sicherheitsvorfall bei einem anderen Unternehmen mit dem Finger zu zeigen, sollten alle KI-Firmen ihre eigenen Sicherheitsvorkehrungen überprüfen und verbessern. Die Forderungen folgen auf einen Essay, in dem Amodei zur Verlangsamung des KI-Fortschritts aufgerufen hatte.

Huangs Gegenentwurf: 'Run as fast as you can' – Marktkräfte statt neuer Gesetze

Huang widersprach: Es brauche keine neuen Gesetze oder Regulierungen, da Marktkräfte bereits verantwortungsvolle Entwicklung förderten. "Safety is paramount", sagte Huang, aber Sicherheit sei ein technisches Problem, das durch Ingenieurskunst gelöst werden könne. Entwickler trügen die Hauptverantwortung: Sie sollten Produkte erst veröffentlichen, wenn sie von deren Sicherheit überzeugt seien, und notfalls die Veröffentlichung stoppen. Laut Nvidia hat das Unternehmen die White House Voluntary Commitments unterzeichnet und eigene "Trustworthy AI"-Prinzipien entwickelt. Diese Prinzipien umfassen nach Angaben des Unternehmens Datenschutz, Sicherheit, Transparenz und die Minimierung von Verzerrungen; sie seien grundlegend für die gesamte Entwicklung.

Breite Unterstützung für Amodei: Altman, Musk und Hassabis schließen sich an

Amodeis Vorstoß erhielt öffentliche Unterstützung von OpenAI-CEO Sam Altman, Elon Musk und Google DeepMind Chair Demis Hassabis. Die Unterstützung folgte, nachdem Forscher vor katastrophalen Risiken durch KI gewarnt hatten. Anthropic untermauert seine Position mit eigenen Sicherheitsmaßnahmen: Die Responsible Scaling Policy (RSP) basiert laut Anthropic auf bedingten Verpflichtungen – überschreitet ein Modell bestimmte Fähigkeitsschwellen, etwa bei biologischen Wissenschaften, die zur Herstellung gefährlicher Waffen beitragen könnten, werden zusätzliche Sicherheitsvorkehrungen aktiviert, die proportional zum Risiko sind. Das Frontier Compliance Framework beschreibt nach Angaben des Unternehmens, wie Anthropic Risiken in Bereichen wie Cyber-Offensive, Chemie und Biologie bewertet und mindert. Diese Rahmenwerke sollen katastrophale Risiken durch KI-Systeme begrenzen.

Geschäftsmodelle im Clinch: Warum Nvidia und Anthropic gegensätzlich ticken

Die gegensätzlichen Positionen spiegeln unterschiedliche Risikobewertungen wider. Amodei warnt vor katastrophalen Risiken durch KI-Systeme und fordert kollektive Koordination, um diese zu mindern. Huang betrachtet Sicherheit als technisches Problem, das durch Ingenieurskunst gelöst werden kann, und setzt auf Marktkräfte sowie die Eigenverantwortung der Entwickler. Beide Unternehmen haben sich zu Sicherheitsmaßnahmen verpflichtet: Nvidia zu den White House Voluntary Commitments und eigenen Trustworthy-AI-Prinzipien, Anthropic zu einer Responsible Scaling Policy und einem Frontier Compliance Framework. Diese unterschiedlichen Ansätze – kollektive Regulierung versus unternehmerische Selbstverantwortung – erklären den Dissens.