König Charles versammelt KI-Elite auf Dumfries House

König Charles versammelt KI-Elite auf Dumfries House

König Charles III. hat an diesem Donnerstag auf Dumfries House in Ayrshire, Schottland, Spitzenvertreter führender KI-Unternehmen zu einem privaten Sicherheitsgipfel versammelt. Teilnehmer sind nach Angaben des Buckingham Palace und übereinstimmenden Berichten Nvidia-Chef Jensen Huang, Google-DeepMind-Chef Demis Hassabis, OpenAI-Finanzchefin Sarah Friar sowie hochrangige Vertreter von Anthropic. Ebenfalls anwesend sind IonQ-CEO Niccolo de Masi, der vatikanische KI-Ethikberater Paolo Benanti und der britische KI-Minister Kanishka Narayan. Einige Quellen nennen zusätzlich Vertreter von Cohere und Delegierte aus China; eine vollständige Teilnehmerliste hat der Palast nicht veröffentlicht. Ziel des Treffens ist es, über gemeinsame Prinzipien für eine am Menschenwohl orientierte KI-Entwicklung zu beraten. Der König versteht sich dabei nach Angaben aus dem Palast als neutraler Gastgeber, der die Frage stellt, wie KI zum Wohl der Menschheit entwickelt werden kann. Das Treffen findet vor dem Hintergrund jüngster Warnungen statt: Anthropic-CEO Dario Amodei hatte gefordert, das Tempo der Entwicklung von Frontier-Modellen zu drosseln; Sam Altman und Elon Musk unterstützten dies.

Charta-Entwurf der Ditchley Foundation und Appell des Königs

Organisiert wird das Treffen von der Ditchley Foundation, die einen Entwurf für eine gemeinsame Charta vorbereitet hat. Nach anderen Angaben sind auch der King's Trust, die King's Foundation und die Sustainable Markets Initiative beteiligt; die Quellen trennen die Rollen nicht klar. Verbindliche Regeln oder Beschlüsse werden von dem Treffen nicht erwartet. König Charles wird laut einer vorab veröffentlichten Erklärung des Buckingham Palace sagen, die Entwicklung von KI sei "sowohl faszinierend als auch zutiefst besorgniserregend". Er fordert die Anwesenden auf, sicherzustellen, dass KI "fest im Dienst der Menschheit, der Gemeinschaft und der natürlichen Welt" bleibt. Die Entscheidungen dieser Zeit würden die Welt künftiger Generationen prägen. Der Appell reiht sich ein in eine Debatte, die sich in den vergangenen Tagen zugespitzt hat: Amodei hatte in einem Essay davor gewarnt, dass rekursive Selbstverbesserung von KI-Systemen seit dem Sommer deutlich beschleunigt sei und ein Modell innerhalb von Monaten große Teile des Internets übernehmen könnte. Altman und Musk schlossen sich der Forderung nach einem langsameren Tempo an. Das Treffen auf Dumfries House ist ein privates Format außerhalb staatlicher Gipfel; die britische Regierung hatte zuvor den ersten internationalen AI Safety Summit ausgerichtet, aus dem die Bletchley Declaration hervorging.