Aleph Alpha und TU Darmstadt gründen Lab 1141 für erklärbare KI

Aleph Alpha und TU Darmstadt gründen Lab 1141 für erklärbare KI

Laut einer gemeinsamen Mitteilung von Aleph Alpha Research, dem Forschungszweig des Heidelberger KI-Unternehmens Aleph Alpha, und der Technischen Universität Darmstadt haben beide im August 2024 die Gründung des gemeinsamen Labors Lab 1141 angekündigt. Als Ziel der Kooperation wird in der Mitteilung die Entwicklung erklärbarer, sicherer und transparenter generativer Künstlicher Intelligenz (GenAI) genannt. Generative Modelle wie große Sprachmodelle gelten oft als Black Boxes, deren Entscheidungen nicht nachvollziehbar sind – ein Hindernis für den Einsatz in sicherheitskritischen Bereichen und eine zunehmende regulatorische Anforderung, etwa durch den EU AI Act. Nach Angaben der Partner soll Lab 1141 die Lücke zwischen akademischer Forschung und industrieller Entwicklung schließen, indem es die wissenschaftliche Expertise der TU Darmstadt mit der industriellen Forschungs- und Entwicklungserfahrung sowie den Daten- und Rechenressourcen von Aleph Alpha kombiniert. Aleph Alpha bezeichnet die Zusammenarbeit in der Mitteilung als „groundbreaking collaboration“, die das IPAI-Ökosystem stärken und das eigene Produktportfolio verbessern soll. Die TU Darmstadt wird in derselben Mitteilung als „hallmark of excellence“ für Zusammenarbeit und Technologietransfer bezeichnet. Laut der Mitteilung ist die Universität eine der wenigen akademischen Forschungseinrichtungen, die mit dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) kooperieren. Die Partner betonen in der Ankündigung, dass durch die Zusammenarbeit auch Beiträge zur offenen Forschungsgemeinschaft geleistet werden sollen. Die offizielle Ankündigung von Aleph Alpha Research und TU Darmstadt unterstreicht, dass die Initiative darauf abzielt, die Erklärbarkeit, Sicherheit und Transparenz von KI für reale Anwendungen zu verbessern. Damit reagieren die Partner auf einen zentralen Schwachpunkt aktueller generativer Modelle: deren mangelnde Nachvollziehbarkeit. Durch die Bündelung von akademischer Grundlagenforschung und industrieller Anwendungskompetenz soll ein Umfeld entstehen, in dem Methoden der erklärbaren KI nicht nur theoretisch entwickelt, sondern auch praktisch erprobt und in Produkte überführt werden. Die Mitteilung hebt hervor, dass Lab 1141 als Partnerschaft konzipiert ist, die den Austausch zwischen Wissenschaft und Industrie institutionalisiert und langfristig zur weltweiten Forschung im Bereich der erklärbaren KI beitragen soll.

Fellowships finanzieren neue Doktorandenstellen und Praktika

Laut der Ankündigung von Aleph Alpha und TU Darmstadt entstehen durch Lab 1141 neue Doktorandenstellen an der TU Darmstadt, die über Aleph Alpha Research Fellowships finanziert werden. Ergänzt werden diese nach Angaben der Partner durch sogenannte Industrial-PhD-Rollen, die direkt im Team von Aleph Alpha eingebettet sind. Die Kooperation umfasst zudem gemeinsame Symposien, auf denen Forschende beider Einrichtungen ihre Arbeit vorstellen und diskutieren, sowie Praktika für Doktoranden bei Aleph Alpha. Diese Maßnahmen sollen nach Darstellung der Partner den Austausch zwischen akademischer Forschung und industrieller Praxis institutionalisieren: Doktoranden arbeiten an Fragestellungen, die sowohl wissenschaftlich relevant als auch für reale Anwendungen von Bedeutung sind, und erhalten durch Praktika Einblick in industrielle Entwicklungsprozesse. Die Fellowships sichern laut der Mitteilung die Finanzierung der Stellen und ermöglichen es der Universität, ihre Forschungskapazitäten im Bereich der erklärbaren KI auszubauen. Die Partner geben an, dass die Zusammenarbeit so Mechanismen des Wissenstransfers und der gemeinsamen Forschung fördert. Die Symposien dienen demnach als Plattform für den regelmäßigen Austausch, während die Praktika einen direkten Transfer von Methoden und Erkenntnissen in die industrielle Entwicklung ermöglichen. In einem LinkedIn-Post von Aleph Alpha wurden interessierte Doktorandinnen und Doktoranden zur Bewerbung auf die ausgeschriebenen Positionen eingeladen. Die konkrete Ausgestaltung der Fellowships wird in der offiziellen Mitteilung als zentraler Baustein beschrieben, um talentierte Nachwuchsforschende für das Gebiet der erklärbaren KI zu gewinnen und ihnen eine Umgebung zu bieten, in der sie sowohl akademisch als auch industriell arbeiten können. Durch die Kombination aus universitären Stellen und eingebetteten Industrie-Promotionen entsteht ein hybrides Modell, das den klassischen Karriereweg in der Forschung erweitert und den Transfer von Erkenntnissen in die Praxis beschleunigen soll.

Der Name Lab 1141: AA und DA im Alphabet

Die Erklärung des Namens Lab 1141 stammt aus den Mitteilungen der Partner: Demnach steht der Name für die Position der Buchstaben AA (für Aleph Alpha) und DA (für Darmstadt) im Alphabet. Der Buchstabe A ist der erste, D der vierte Buchstabe. Somit ergibt AA die Zahl 11 (1 und 1) und DA die Zahl 41 (4 und 1). Zusammen ergeben sie 1141. Laut der Mitteilung verweist diese Namensgebung auf die beiden Partner und unterstreicht den Charakter der Kooperation als gemeinsames Labor, in dem die Identitäten beider Einrichtungen verschmelzen. Die Namenserklärung wird auch in Fachberichten aufgegriffen.

AtMan als methodische Basis: Frühere XAI-Kooperation

Die Zusammenarbeit hat eine Vorgeschichte: Bereits Anfang 2023 stellten Forschende von Aleph Alpha, der TU Darmstadt, dem Forschungszentrum Hessian.AI und dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) die Methode AtMan vor. AtMan ist ein Verfahren der Explainable AI (XAI), das die Ausgaben transformerbasierter Modelle – also solcher, die auf der Transformer-Architektur beruhen und für Text- und Bildgenerierung eingesetzt werden – erklärbar macht. Generative Modelle wie ChatGPT oder GPT-4 galten damals als nicht erklärbar, was ihren Einsatz in kritischen Bereichen wie der Medizin einschränkte. AtMan adressiert dieses Problem, indem es nachvollziehbar macht, welche Eingaben zu einer bestimmten Ausgabe geführt haben. Nach Angaben von Aleph Alpha wurde die Methode später für die Luminous-Modelle des Unternehmens verfügbar gemacht und konnte auf Text und Bilder angewendet werden. Diese frühere Kooperation zwischen denselben Partnern wird in der Berichterstattung als fachliche Grundlage für das neue Labor Lab 1141 gesehen: Sie zeigte, dass eine enge Zusammenarbeit zwischen akademischer Forschung und Industrie bei der Entwicklung erklärbarer KI möglich und produktiv ist. Mit Lab 1141 wird diese Zusammenarbeit nun ausgeweitet. Die AtMan-Methode gilt als wichtiger Schritt hin zu mehr Erklärbarkeit und Nachvollziehbarkeit generativer Modelle – eine Anforderung, die mit dem EU AI Act zunehmend regulatorische Relevanz erhält. Die Tatsache, dass Aleph Alpha, TU Darmstadt, Hessian.AI und DFKI bereits erfolgreich an dieser Methode gearbeitet haben, belegt die fachliche Kompetenz der beteiligten Institutionen und bildet die Grundlage für die vertiefte Partnerschaft im Rahmen von Lab 1141.

Widerspruch: Wer wird gefördert – PhDs oder auch Post-Docs?

Bei der Frage, welche Positionen im Rahmen von Lab 1141 gefördert werden, gibt es einen offenen Widerspruch zwischen zwei Kommunikationskanälen von Aleph Alpha. In der offiziellen Mitteilung des Unternehmens vom August 2024 werden ausdrücklich neue PhD-Positionen an der TU Darmstadt genannt, die über Aleph Alpha Research Fellowships finanziert werden, ergänzt durch Industrial-PhD-Rollen im Team. Post-Doc-Stellen werden in dieser Mitteilung nicht erwähnt. In einem LinkedIn-Post von Aleph Alpha zur Ankündigung des Labors heißt es dagegen, dass PhD-Studierende und Post-Docs an der TU Darmstadt und bei Aleph Alpha Research durch Aleph Alpha Research Fellowships finanziert werden. Damit erweitert der Social-Media-Beitrag den Kreis der Geförderten um Post-Docs, während die offizielle Mitteilung präziser nur Doktoranden erwähnt. Eine mögliche Ursache für diese Diskrepanz sind unterschiedliche Kommunikationsstände: Der LinkedIn-Post könnte eine breitere, weniger präzise Formulierung gewählt haben, oder es gab zum Zeitpunkt der Veröffentlichung noch keine endgültige Festlegung. Eine spätere Klarstellung durch Aleph Alpha oder die TU Darmstadt ist nicht dokumentiert. Für Außenstehende bleibt daher unklar, ob tatsächlich auch Post-Doc-Stellen eingerichtet werden oder ob es sich um eine Ungenauigkeit in der Social-Media-Kommunikation handelt. Der Widerspruch ist relevant, weil er die konkrete Ausgestaltung der Förderung betrifft und damit für potenzielle Bewerberinnen und Bewerber von Bedeutung ist. Während die offizielle Mitteilung als formale Ankündigung gilt, erreicht der LinkedIn-Post möglicherweise ein breiteres Publikum und könnte so zu Missverständnissen führen. Die Diskrepanz zeigt, wie wichtig präzise Formulierungen in der Wissenschaftskommunikation sind, insbesondere wenn es um die Ausschreibung von Stellen geht.

Unabhängige Stimmen bestätigen Beteiligung und Expertise

Die Glaubwürdigkeit der Partnerschaft wird durch unabhängige Stimmen gestützt. Professor Kristian Kersting leitet das Arbeitsgebiet Künstliche Intelligenz und Maschinelles Lernen am Fachbereich Informatik der TU Darmstadt. In einer Mitteilung der TU Darmstadt wird er mit einer Einschätzung zitiert: „Unsere Partnerschaft mit Aleph Alpha Research bietet großartige Möglichkeiten für unsere Forscher und Doktoranden. Das Lab 1141 verbessert nicht nur unsere Forschungskapazitäten, sondern stellt auch sicher, dass unsere Arbeit zu praktischen Anwendungen führt, und ist daher eine wichtige Initiative, um die Lücke zwischen Wissenschaft und Industrie zu schließen.“ Diese Aussage stammt aus der gemeinsamen Ankündigung und bestätigt die Zielsetzung des Labors aus Sicht der akademischen Seite. Zudem wird die frühere AtMan-Kooperation von unabhängigen Fachquellen berichtet, die die Beteiligung von Aleph Alpha, TU Darmstadt, Hessian.AI und DFKI dokumentieren. Diese unabhängige Berichterstattung über die methodische Vorarbeit stärkt die Annahme, dass die Partner über einschlägige Expertise im Bereich der erklärbaren KI verfügen. Die Kombination aus der institutionellen Verankerung an der TU Darmstadt, der Leitung durch einen ausgewiesenen Professor und der dokumentierten Vorgeschichte macht die Kooperation nachvollziehbar und überprüfbar. Professor Kerstings Aussage unterstreicht zudem den praktischen Nutzen der Partnerschaft: Es geht nicht nur um Grundlagenforschung, sondern darum, dass die Arbeit zu Anwendungen führt, die außerhalb des akademischen Umfelds Wirkung entfalten. Die unabhängige Bestätigung der AtMan-Kooperation durch Fachmedien belegt, dass die beteiligten Institutionen bereits in der Vergangenheit erfolgreich zusammengearbeitet haben und dass ihre Expertise im Bereich der erklärbaren KI anerkannt ist. Dies stützt die Glaubwürdigkeit der neuen Partnerschaft und macht die Ankündigung von Lab 1141 für die Fachöffentlichkeit nachvollziehbar.