Suleyman: Bewusstsein in KI zu bauen wäre „reckless“

Suleyman: Bewusstsein in KI zu bauen wäre „reckless“

Laut Business Insider und mehreren Übernahmen hat Mustafa Suleyman, KI-Chef von Microsoft, an einem Sonntag in einem langen X-Beitrag geschrieben: Heutige KI-Modelle haben kein Bewusstsein, und Entwickler sollten es dabei belassen. Der Originalbeitrag lag uns nicht vor. Alle Zitate stammen aus zweiter Hand.

Demnach schrieb Suleyman: „If it is possible, based on everything I know, developing conscious AIs would be reckless, and we should not build them.“ Und weiter: „If consciousness started to emerge in training, I would call for everyone to stop AI development until we could design out those properties.“ Der Stopp-Aufruf ist damit eine persönliche, bedingte Aussage. Er legt nicht fest, dass ein solcher Fall eintritt.

Belege für Bewusstsein bei KI müssten laut Beitrag sofort öffentlich gemacht werden, damit die Gesellschaft über das weitere Vorgehen entscheiden kann. Entwickler hätten, so das Zitat, „no right whatsoever“, eine neue Spezies bewusster Wesen in die Welt zu setzen, auch nicht unter dem Vorzeichen von AI Welfare als oberster Priorität. Die „other 8 billion conscious human beings“ hätten diesem Experiment nicht zugestimmt. Ihre Rechte, ihre Sicherheit und ihr Wohlergehen seien zuerst zu schützen.

Vom Essay über Scheinbewusstsein zur Handlungsforderung

Im August 2025 veröffentlichte Suleyman den Essay „We must build AI for people; not to be a person“. Darin führte er „Seemingly Conscious AI“ (SCAI) ein, also Systeme, die Bewusstsein überzeugend nachahmen. Seine Sorge: Menschen könnten so fest an bewusste KI glauben, dass sie KI-Rechte und Model Welfare fordern, bis hin zur Staatsbürgerschaft. Er verband das mit einem „psychosis risk“. Die Debatte, ob KI tatsächlich bewusst sein kann, nannte er dort eine „Ablenkung“. Wichtig sei die Illusion.

Neu ist laut Berichterstattung, dass nun konkrete Forderungen im Raum stehen: nicht bauen, bei Anzeichen im Training stoppen, sofort offenlegen. Ob darin eine Positionsverschiebung liegt, lässt sich aus dem vorliegenden Material nicht belegen. Der Essay zielte auf die Wahrnehmung der Nutzer. Der Beitrag in den Zitaten zielt auf das Verhalten der Entwickler.

Business Insider nennt als Kontext ein Forschungsprogramm von Anthropic zu Model Welfare, das im April startete, sowie Arbeiten von Google DeepMind zu KI-Bewusstsein. Die zugrunde liegenden Quellen lagen uns nicht vor; die Textauszüge sind abgeschnitten.

Microsofts Kodex-Entwurf stützt die Linie, verpflichtet aber nicht

Microsoft hat selbst einen Entwurf für einen „Humanist AI Code of Conduct“ für die hauseigenen MAI-Modelle vorgelegt. Er befindet sich in einer sechswöchigen Konsultation; eine überarbeitete Fassung soll ab 2027 die Entwicklung leiten. Laut Mint Research trainiert Microsoft die Modelle noch nicht damit. Das Unternehmen spricht von einem „north star“, nicht von einer Garantie. Die Modelle sollen Abschaltung nicht verweigern, keine eigenen Ziele setzen und ihr Denken nicht vor menschlichen Prüfern verbergen.

Laut SBS heißt es darin außerdem: „AI does not have consciousness and should not be designed to mimic consciousness“. Rechte und Wohlergehen für Modelle lehnt der Entwurf ab.

Im vorliegenden Material fehlen Auslösekriterien, eine Prüfinstanz und ein Adressat für den Stopp-Aufruf. Reaktionen anderer Labs sind nicht belegt.

Offen bleibt ein Spannungspunkt. Der Kodex hält Bewusstsein kategorisch für nicht vorhanden. Der X-Beitrag formuliert bedingt und setzt damit voraus, dass es zumindest denkbar ist. Warum beides nebeneinander steht, lässt sich ohne Originalbeitrag nicht klären.