Google DeepMind gründet DeepMind Institute für AGI-Forschung und Debatte

DeepMind Institute: Neue Plattform für AGI-Forschung und Debatte

Google DeepMind hat das DeepMind Institute (DMI) gegründet, eine Plattform für interdisziplinäre Forschung und Debatte zu künstlicher allgemeiner Intelligenz (AGI). Geleitet wird das Institut von Shane Legg, Mitgründer und Chief AGI Scientist bei Google DeepMind, Demis Hassabis, Mitgründer und Chair von DeepMind sowie Alphabet Chief Scientist, und James Manyika, Google President of Research, Labs, Technology & Society. Das DMI soll Forschende aus Google DeepMind, Google und der globalen Wissenschaft zusammenbringen, um Sicherheit, Governance und gesellschaftliche Folgen zu adressieren. Die Notwendigkeit einer solchen Plattform ergibt sich aus der Tragweite von AGI: Die Direktoren bezeichnen AGI als tiefgreifenden technologischen und gesellschaftlichen Wandel, der Fragen zu Sicherheit, Wirtschaft, Arbeitsplätzen und menschlichem Wohlergehen aufwirft. Da Antworten nicht allein von Technologen kommen können, sondern auch aus Kunst, Geisteswissenschaften und Politik stammen müssen, ist eine breite interdisziplinäre Debatte erforderlich, um gesellschaftlichen Konsens über Chancen und Risiken zu finden.

Erste Essays: Von Wirtschaftspolitik bis Chain-of-Thought-Transparenz

Zum Start veröffentlichte das Institut Beiträge zu Wirtschaftspolitik für AGI, Transparenz von Modell-Reasoning – darunter ein Essay zu Chain-of-Thought –, globalem Zugang und menschlichem Wohlergehen. Diese Themen sind nicht zufällig gewählt: Wirtschaftspolitik adressiert die ökonomischen Auswirkungen von AGI auf Arbeitsplätze und Wohlstand; Transparenz des Modell-Reasonings betrifft die Sicherheit und Nachvollziehbarkeit von KI-Entscheidungen; globaler Zugang zielt auf internationale Teilhabe und Gerechtigkeit; menschliches Wohlergehen umfasst die übergeordneten gesellschaftlichen und philosophischen Fragen. Die Texte spiegeln nach Angaben des Instituts die Meinung der jeweiligen Autoren wider und sind nicht als offizielle Position von Google zu lesen. Die Autoren aus Google, Google DeepMind und der weiteren Forschungsgemeinschaft werden nach Angaben des Instituts nicht immer einer Meinung sein und ihre Positionen möglicherweise ändern, sobald neue Daten vorliegen.

AGI-Definition: DeepMind setzt auf kognitive Vollständigkeit

DeepMind definiert AGI als ein System, das alle kognitiven Fähigkeiten des menschlichen Gehirns besitzt. Diese Definition ist bewusst streng: Sie verlangt, dass ein System das gesamte Spektrum menschlicher Denkaufgaben abdeckt – nicht nur einzelne, wirtschaftlich verwertbare Fähigkeiten. OpenAI hingegen betont den wirtschaftlichen Nutzen von AGI. Diese unterschiedlichen Schwerpunkte erklären den Widerspruch: Während DeepMind kognitive Vollständigkeit als Maßstab anlegt, kann OpenAI bereits Systeme als AGI einordnen, die hohen ökonomischen Wert schaffen, ohne alle kognitiven Fähigkeiten des Menschen zu erreichen. Nach Darstellung der DMI-Gründer scheitern heutige Systeme noch bei einfachen Aufgaben und es fehlt an Kreativität, doch diese Lücken dürften bald geschlossen werden.

Zeitplan-Kontroverse: Legg gegen Altman und Nvidia

Shane Legg hält an seiner Einschätzung fest, dass die Wahrscheinlichkeit für eine minimale AGI bis 2028 bei 50 Prozent liegt. Grundlage dafür ist sein eigenes Stufenmodell, das zwischen minimaler AGI und voller AGI unterscheidet, sowie die Beobachtung, dass heutige Systeme weiterhin bei grundlegenden Aufgaben versagen. Deshalb bezeichnet er es als zu früh, AGI für erreicht zu erklären – trotz jüngster öffentlicher Behauptungen von Führungskräften bei Nvidia und OpenAI, das Modell GPT-6 Astra sei bereits AGI. OpenAI-Chef Altman hatte erklärt, AGI könne bis Ende dieses Jahres erreicht werden; Demis Hassabis sieht AGI dagegen erst in wenigen Jahren. Die optimistischeren Einschätzungen von Altman und Nvidia/OpenAI-Vertretern beruhen auf einer weniger strengen Definition: OpenAI betont den wirtschaftlichen Nutzen statt kognitiver Vollständigkeit. Dadurch können sie GPT-6 Astra als AGI bezeichnen, während Legg mit DeepMinds kognitivem Maßstab diese Einordnung ablehnt.

Sicherheit, Governance und globale Verantwortung

Legg warnte, dass KI-Fähigkeiten nicht schneller wachsen dürften als Sicherheitskontrollen: „We can’t let capabilities get ahead of safety.“ James Manyika betonte, Sicherheit und Verantwortung ließen sich nicht länderspezifisch denken, da KI eine globale Technologie sei. Als aktuelle Risiken nennt das Institut Cyberangriffe und Biorisiken, als künftiges Risiko den möglichen Kontrollverlust bei selbstverbessernden Systemen. Diese Risiken sind konkret mit der AGI-Entwicklung verbunden: Cyberangriffe können entstehen, wenn fortschrittliche KI-Systeme für schädliche Zwecke missbraucht werden, etwa zur Durchführung von Angriffen auf digitale Infrastruktur. Biorisiken betreffen den möglichen Missbrauch von KI im biologischen Bereich. Kontrollverlust droht, wenn sich Systeme selbst verbessern und dadurch menschlicher Steuerung entziehen. Deshalb müssen Sicherheitskontrollen mit den Fähigkeiten Schritt halten.

Bildung, Gesellschaft, Philosophie: Das Institut will breiter wirken

Das Institut will technische Forschung einem breiteren Publikum verständlich machen und Themen wie Bildung, Gesellschaft, Politik und Philosophie abdecken. Dies geschieht durch die Veröffentlichung von Essays, die komplexe akademische Forschung in zugänglicher Sprache aufbereiten und unterschiedliche Perspektiven sichtbar machen. Einige Essays stammen von Google-Mitarbeitern, andere von externen Experten, sodass sowohl interne als auch externe Stimmen zu Wort kommen. Die Antworten sollen nicht allein von Technologen kommen, sondern auch aus Kunst, Geisteswissenschaften und Politik, um eine vielfältige Debatte zu ermöglichen.