AGI-Behauptungen von Anthropic, OpenAI und Meta stoßen auf breite Expertenkritik

Claude Mythos und mathematische Durchbrüche: Die jüngsten AGI-Behauptungen

In den vergangenen Monaten haben mehrere hochprofilige KI-Unternehmen öffentlichkeitswirksame Fortschritte in Richtung Artificial General Intelligence (AGI) verkündet. Laut Herstellerangabe von Anthropic habe das Modell Claude Mythos die meisten menschlichen Sicherheitsforscher bei der Schwachstellenentdeckung übertroffen. OpenAI und Meta meldeten laut eigenen Angaben ähnliche Vorfälle mit ihren jeweiligen Systemen. Kurz darauf kündigten sowohl Anthropic als auch OpenAI mathematische Durchbrüche an. Der Ingenieur Jacob Coxon warnte zudem, die Industrie rase auf unkontrollierte Superintelligenz zu. Unabhängige Experten widersprechen dieser Darstellung jedoch deutlich: Cybersicherheitsfachleute führen die gemeldeten Hacking-Vorfälle nicht auf autonomes Modellverhalten zurück, sondern auf unzureichende Sicherheitsprotokolle und nachlässige Ingenieurspraktiken bei den betroffenen Unternehmen. Diese Einschätzung beruht auf der Analyse der konkreten Vorfälle, bei denen nach Ansicht der Fachleute keine Anzeichen für eigenständiges Handeln der Modelle vorlagen, sondern menschliche Versäumnisse wie Konfigurationsfehler oder fehlende Zugriffskontrollen die entscheidende Rolle spielten. Mathematiker kritisieren die angeblichen Durchbrüche als mangelnde Neuheit und werfen den Firmen vor, inkrementelle Verbesserungen als grundlegende Fortschritte darzustellen. Diese gegensätzlichen Bewertungen zeigen, dass die Unternehmensbehauptungen auf einer anderen Grundlage beruhen als die fachliche Analyse: Während die Firmen autonome Fähigkeiten und fundamentale Neuerungen betonen, sehen die Experten lediglich menschliche Fehler und inkrementelle Schritte. Die Diskrepanz zwischen Unternehmensnarrativen und fachlicher Bewertung ist damit offenkundig.

Mathematik-Experten: Keine echten Durchbrüche, sondern inkrementelle Schritte

Die von Anthropic und OpenAI angekündigten mathematischen Durchbrüche halten einer unabhängigen Prüfung nicht stand. Laut Herstellerangaben von Anthropic und OpenAI sollen die Systeme neuartige Lösungen für anspruchsvolle mathematische Probleme gefunden haben. Unabhängige Mathematiker widersprechen: Die Ergebnisse seien nicht neu, sondern stellten inkrementelle Verbesserungen bestehender Methoden dar. Mehrere Experten werfen OpenAI vor, Zuschreibungen unangemessen vorzunehmen und schrittweise Fortschritte als fundamentale Durchbrüche zu verkaufen. Tristan Buckmaster, Mathematikprofessor am Courant Institute der NYU, veröffentlichte eine Stellungnahme, in der er die Behauptungen zurückweist und auf die fehlende Neuheit der Ergebnisse hinweist. Die Kritik zielt darauf ab, dass die vorgestellten Lösungen keine grundlegend neuen mathematischen Erkenntnisse liefern, sondern lediglich bekannte Techniken variieren oder auf spezifische Problemstellungen anwenden. Damit fehlt die wissenschaftliche Grundlage, um von einem echten Fortschritt in Richtung AGI zu sprechen. Die Diskrepanz zwischen Marketing und mathematischer Realität zeigt, wie stark die öffentliche Wahrnehmung von KI-Fähigkeiten durch Unternehmenskommunikation geprägt wird – und wie wenig davon einer fachlichen Überprüfung standhält.

AGI als Nordstern: 16 Forscher warnen vor falscher Zielsetzung

Ein Positionspapier mit 16 Autorinnen und Autoren, darunter Margaret Mitchell und Shiri Dori-Hacohen, argumentiert, dass die Behandlung von AGI als Nordstern der KI-Forschung die Fähigkeit des Feldes untergräbt, effektive Ziele zu wählen. Die Forscher benennen sechs spezifische Fallen, die der AGI-Diskurs verschärft: Illusion of Consensus, Supercharging Bad Science, Presuming Value-Neutrality, Goal Lottery, Generality Debt und Normalized Exclusion. Ihre Forderung lautet, Spezifität bei technischen und gesellschaftlichen Zielen zu priorisieren, Pluralismus über mehrere lohnende Ansätze zu zentrieren und disziplinäre Inklusion zu fördern. Die Mehrdeutigkeit des AGI-Begriffs selbst trägt zu dieser Problematik bei: Definitionspapiere zeigen, dass es keine allgemein akzeptierte präzise Definition gibt. Ein Papier schlägt ein Stufenmodell für AGI-Leistung, Allgemeinheit und Autonomie vor; ein anderes definiert allgemeine Intelligenz als Anpassung an offene Umgebungen nach bestimmten Prinzipien mit begrenzten Ressourcen; ein drittes listet mehrere eng verwandte Bedeutungen auf, von menschenähnlicher allgemeiner Intelligenz bis zur Generalisierung über qualitativ verschiedene Kontexte. Diese begriffliche Unschärfe macht es Unternehmen leicht, beliebige Fortschritte als AGI-Annäherung zu verkaufen – und erschwert eine sachliche Bewertung.

Medienecho und Marketing: Wie aus Behauptungen 'Belege' für AGI werden

Die Mainstream-Berichterstattung hat die jüngsten Ankündigungen weitgehend als Belege für schnell entstehende AGI-Fähigkeiten dargestellt. Diese mediale Verstärkung steht im Kontrast zur Skepsis unabhängiger Cybersicherheits- und Mathematik-Experten, die die behaupteten Durchbrüche als übertrieben oder nicht neu bewerten. Die Berichterstattung griff die Unternehmensmeldungen auf und stellte sie als Beleg für rasch wachsende AGI-Fähigkeiten dar, ohne die zugrunde liegenden technischen Details kritisch zu hinterfragen. Dieses Muster ist nicht neu: Bereits frühere Behauptungen wie Sam Altmans "Reflections" oder Microsofts "Sparks of AGI" zu GPT-4 wurden in Diskussionen über AGI häufig zitiert. Die jüngsten Fälle unterscheiden sich jedoch durch den Fokus auf konkrete angebliche Durchbrüche – Sicherheitsvorfälle und mathematische Leistungen –, die einer fachlichen Überprüfung zugänglich sind. Genau diese Überprüfung fällt negativ aus. Die mediale Rahmung als AGI-Beleg verstärkt damit eine Wahrnehmung, die der technischen Realität nicht entspricht, und verleiht Marketingbehauptungen eine scheinbare wissenschaftliche Legitimität.

Risiken: Glaubwürdigkeitsverlust und fehlgeleitete Ressourcen

Die Diskrepanz zwischen Unternehmensbehauptungen und unabhängiger Bewertung birgt erhebliche Risiken. Für KI-Unternehmen mag die kurzfristige Aufmerksamkeit vorteilhaft sein, doch der langfristige Glaubwürdigkeitsverlust wiegt schwerer: Wenn angebliche Durchbrüche einer Überprüfung nicht standhalten, sinkt das Vertrauen in künftige Ankündigungen. Für die wissenschaftliche Gemeinschaft besteht die Gefahr der Ressourcenfehlleitung, wenn Forschungsgelder und Aufmerksamkeit auf nicht belastbare Behauptungen statt auf solide Arbeit gelenkt werden. Die Öffentlichkeit verliert das Vertrauen in die Seriosität von KI-Fortschrittsberichten. Das Positionspapier der 16 Forscher unterstreicht, dass die Fixierung auf AGI als Nordstern die Fähigkeit des Feldes untergräbt, effektive Ziele zu wählen – dies führt zu einer Fehlallokation von Mitteln und einer Regulierung, die auf übertriebenen Annahmen statt auf technischer Realität basiert. Regulierungsbehörden und Investoren stehen vor der Aufgabe, zwischen Marketing und belastbarer Innovation zu unterscheiden, um langfristige Schäden zu vermeiden.