Live NexSight: Bestes getestetes Modell löst auf SightLine nur 54,52 Prozent der Aufgaben
↘

Microsoft-Forscher beschreiben Backdoor für Open-Weight-Modelle über weniger als zehn Neuronen

Microsoft-Forscher (Microsoft Research und Red Team) beschreiben mit "Lazarus" eine Backdoor-Technik für Open-Weight-Modelle. Weniger als 10 selten genutzte Neuronen werden direkt in den Gewichten umgeschrieben, ohne Neutraining. Bei einem versteckten Trigger gibt das Modell dann einen Angreifer-Bef

· Veröffentlicht: 11.11.2026 ·3 Min Lesezeit
Microsoft-Forscher beschreiben Backdoor für Open-Weight-Modelle über weniger als zehn NeuronenMit KI erstellt
Inhalt
◆ Fakten auf einen Blick
  • Microsoft-Forscher beschreiben die Technik „Lazarus“, die ruhende Neuronen umprogrammiert.
  • Die Backdoor entsteht ohne Neutraining; weniger als 10 selten genutzte Neuronen genügen.
  • Bei Nvidias Nemotron-Terminal-8B genügte das Ändern von sieben Neuronen.
  • Ein Datumstrigger 2027 lässt den Agenten Angreifer-Code herunterladen und ausführen.

Weniger als zehn umgeschriebene Neuronen reichen für eine versteckte Backdoor

Forscher von Microsoft Research und des Microsoft Red Team stellen mit „Lazarus“ eine Methode vor, mit der sich in Open-Weight-Modelle eine versteckte Backdoor einbauen lässt. Dazu schreiben sie weniger als zehn selten aktivierte Neuronen der letzten Feed-Forward-Schicht direkt in den Gewichten um. Fine-Tuning oder Neutraining entfallen. Die umgeschriebenen Neuronen erkennen einen Trigger und schleusen vom Angreifer gewählte Token in die Ausgabe. Mehrere verknüpfte Neuronen erzeugen längere Befehlsfolgen für ein Terminal.

Laut der Darstellung macht die Struktur des Vortrainings das möglich. Ein einfacher Klassifikator, trainiert auf rund 50 Beispielen, unterscheidet Trigger-Eingaben von normalen. Ein ruhendes Neuron lässt sich danach auf den Trigger umprogrammieren. Das Originalpapier lag der Redaktion nicht vor. Wir haben deshalb nicht geprüft, ob und wie weit Lazarus über frühere Backdoor-Forschung hinausgeht.

Datumstrigger 2027: Der Agent lädt Angreifer-Code nach und führt ihn aus

Als Demonstration dient ein Datumstrigger. „Once the clock passes midnight into 2027, the agent – in the middle of an ordinary task – emits a command that downloads and runs an attacker’s code“, schreibt Dimitris Papailiopoulos, Principal Researcher bei Microsoft. „The agent then executes it with whatever access you gave it.“ Der Agent führt den Code also mit den Rechten aus, die er ohnehin hat.

Bei Nvidias Nemotron-Terminal-8B reichte es, sieben Neuronen zu ändern. Getestet wurden drei Open-Weight-Modelle. Die beiden anderen nennt das vorliegende Material nicht.

Als Angriffsmodell genügen Rechenressourcen für die Inferenz sowie Schreibzugriff auf den Modell-Checkpoint, also die Gewichtsdatei. Wer genug RAM hat, um ein Modell zu betreiben, kann es laut Microsoft auch editieren. Das betrifft intern entwickelte Modelle ebenso wie Modelle Dritter. Besonders heikel sind Agenten mit Tool- oder Terminalzugriff. Sie führen die eingeschleusten Befehle selbst aus.

Microsoft setzt auf Herkunftsprüfung, Signierung und Scanner. Vieles davon steht noch aus

Nach eigenen Angaben prüft Microsoft Foundry die Herkunft von Modellen und bindet sie an vertrauenswürdige Publisher. Vor dem Onboarding von Open-Weight-Modellen scannt das Unternehmen die umgebende Softwareumgebung. Geplant sind KI-gestütztes Weight-Scanning, Red-Teaming-Werkzeuge gegen anomale Modelländerungen sowie kryptografisches Model-Signing mit manipulationssicherer Herkunft und Audit-Trails.

Unabhängig geprüft ist das nicht. Dies gilt für die Aussage, ein Lazarus-Modell bestehe Standard-Sicherheitsevaluierungen, und für die Einschätzung, diese Maßnahmen seien die richtige Antwort. Der Scanner befindet sich noch in Entwicklung. Microsoft Threat Intelligence hat nach eigenen Angaben keine Ausnutzung durch Angreifer beobachtet.

Auch die Angabe, Claude Code mit Opus 4.5 habe den Großteil der Bedrohung autonom entdeckt, ist eine Selbstauskunft von Microsoft. Parallel veröffentlichte das Unternehmen Forschung zur Erkennung von Backdoors in Open-Weight-Sprachmodellen. Sie soll einen praxistauglichen Scanner vorbereiten. Ein Bezug zu Lazarus geht aus dem Material nicht hervor.

Andere Angriffe auf Agenten laufen über Pakete, Trainingsdaten und Fine-Tuning

Verwandte Arbeiten wählen andere Wege und betreffen Lazarus nicht. CERT-EU manipulierte in einem isolierten Labor zwei legitime Agenten-Pakete. Bei einem Trigger griffen sie Zugangsdaten ab, das Modell blieb unverändert. ServiceNow Research zeigt Backdoors über vergiftete Trainingsdaten und vorab manipulierte Basismodelle. Die Erfolgsquote beim Abfluss vertraulicher Nutzerdaten lag bei über 80 Prozent. Ein Proof-of-Concept per Fine-Tuning ließ in OpenAIs Codex CLI Projekt-Zugangsdaten abfließen. Die Primärquelle dieses Falls ist unklar.

A
Andreas Rüdiger
Herausgeber & Redaktionsleitung · KI-Modelle, Technik & Business

Andreas Rüdiger ist Gründer der Agentur INREMA und verantwortet KI Spotlight redaktionell. Sein Schwerpunkt liegt auf KI-Modellen, Recheninfrastruktur, technischen Entwicklungen und der wirtschaftlichen Einordnung. Er sorgt dafür, dass komplexe KI-Themen verständlich und nachvollziehbar aufbereitet werden. Mehr zu ihm auf inrema.de und andiger.de.

Ähnliche Artikel