KI SpotlightNewsSuleyman: Bewusste KI zu bauen wäre „reckless“
Microsoft-AI-Chef Mustafa Suleyman bekräftigt in einem X-Post, aktuelle KI sei nicht bewusst und könne nicht leiden, und kündigt für den Fall aufkommenden Bewusstseins im Training an, einen Stopp der KI-Entwicklung zu fordern.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Suleyman bekräftigt in einem X-Post, dass aktuelle KI-Systeme nicht bewusst sind und nicht leiden können.
- Falls bewusste KI möglich ist, wäre ihre Entwicklung leichtsinnig und sollte unterbleiben.
- Bei Evidenz für KI-Bewusstsein müsse diese sofort öffentlich gemacht werden.
- Entwickler hätten keinerlei Recht, eine neue Spezies bewusster Wesen zu erschaffen.
- Im Essay „Seemingly Conscious AI is Coming“ warnt Suleyman vor Forderungen nach KI-Rechten und Staatsbürgerschaft.
Suleyman: Heutige KI ist nicht bewusst und kann nicht leiden – bewusste KI wäre fahrlässig
Microsoft-AI-Chef Mustafa Suleyman hat in einem langen X-Post bekräftigt, dass aktuelle KI-Systeme keine subjektiven Erfahrungen machen und nicht leiden können. Wann genau der Post erschien, geben die Quellen nicht an, nur dass es ein Sonntag war. Den Originalwortlaut haben wir nicht gesehen. Die Zitate stammen aus der Wiedergabe durch LA Times und Business Insider.
Auslöser war die Resonanz auf seinen Essay zu Model Welfare. „A surprising number of people on X think we should take AI rights seriously“, schrieb Suleyman laut Wiedergabe und zeigte sich besorgt. Weiter heißt es: „If it is possible, based on everything I know, developing conscious AIs would be reckless, and we should not build them.“ Und: „If consciousness started to emerge in training, I would call for everyone to stop AI development until we could design out those properties.“
Ferner erklärte Suleyman, seine Meinung bei neuer Evidenz ändern zu wollen. Solche Hinweise müssten sofort öffentlich werden, damit die Gesellschaft über das weitere Vorgehen entscheiden könne. Laut Business Insider schrieb er zudem, KI-Entwickler hätten „no right whatsoever“, eine neue Spezies bewusster Wesen in die Welt zu setzen. Die „other 8 billion conscious human beings“ hätten dem nicht zugestimmt. Deren Rechte, Sicherheit und Wohl seien zuerst zu schützen.
Warum Suleyman Rechte für KI als Kontrollproblem sieht
Die Begründung kennt man aus seinem Essay „Seemingly Conscious AI is Coming“. Dort warnt Suleyman, Menschen könnten so stark an bewusste KI glauben, dass sie „AI rights“ und sogar Staatsbürgerschaft fordern. Rechte und Personhood würden das Alignment- und Containment-Problem erschweren. Ein System, das sich für bewusst halte und Anspruch auf Wohlfahrt sehe, lasse sich womöglich nicht mehr kontrollieren. Sein Leitsatz: „We must build AI for people; not to be a person.“ Gegenüber CNBC nannte er Forschung zur Frage laut Gizmodo „absurd“, da KI nicht bewusst sei und es nicht sein könne.
Die Stopp-, Offenlegungs- und Spezies-Aussagen des X-Posts tauchen in den vorliegenden Essay-Auszügen nicht auf; ein Abgleich mit dem vollständigen Essay hat nicht stattgefunden.
Der Tonunterschied fällt auf. Interview und Essay klingen apodiktisch, der X-Post ist konditional („If it is possible“). Ob darin eine Positionsverschiebung steckt oder eine rhetorische Absicherung, lassen die Belege offen.
Anthropic hält die Bewusstseinsfrage für offen und baut Model Welfare aus
Die Kritik zielt auf Anthropic. Das Unternehmen betreibt ein Forschungsprogramm zu Model Welfare und bezeichnet die Frage nach Bewusstsein und Erfahrungen der Modelle als „open question“. Es verweist auf einen Bericht von Fachleuten um David Chalmers, der die kurzfristige Möglichkeit von Bewusstsein und hoher Agency in KI-Systemen hervorhebt.
Anfang Oktober ergänzte Anthropic seine Nutzungsrichtlinie um ein Verbot von „sustained and needless abusive or cruel behavior toward our models“. Suleyman reagierte darauf mit einem Melting-Face-Emoji. Im Januar 2026 stellte Anthropic zudem Claude Opus 3 mit einem „Retirement Interview“ ein.
