KI SpotlightNewsBundestag befasst sich mit KI-Bedrohungsszenario für das BSI
Das BSI sieht KI-Systeme, die Schwachstellen teils autonom in Angriffspfade verwandeln. Eine andere BSI-Seite sieht bislang keine neuen Angriffstechniken.
Mit KI erstelltInhalt
◆ Fakten auf einen Blick
- Laut BSI können aktuelle KI-Systeme Schwachstellen teilweise autonom erkennen und in verwertbare Angriffspfade überführen.
- Als Frontier-Modelle nennt das BSI beispielhaft Claude Mythos und OpenAI GPT-5.5.
- Organisationen könnten mit erheblich steigender Zahl neuer Schwachstellen, Exploits, Patches und Folgevorfälle konfrontiert werden.
- KI senkt laut BSI Aufwand, Zeitbedarf und Einstiegshürden für offensive Cyberfähigkeiten maßgeblich.
- Das BSI unterscheidet drei Kategorien KI-gestützter Angriffe: Aufklärung, Angriffe auf KI-Systeme und unautorisierte KI-Nutzung.
BSI: KI-Systeme können Schwachstellen teils autonom in Angriffspfade verwandeln
Der Bundestag befasst sich mit den Folgen, die ein neues KI-Bedrohungsszenario für das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat. Zum Bundestagsdokument selbst liegen keine inhaltlichen Angaben vor. Dokumenttyp, Urheber und Inhalt sind offen.
Die Einschätzung des BSI selbst liegt dagegen vor. Demnach sind aktuelle KI-Systeme so leistungsfähig, dass sie Schwachstellen in Software in kurzer Zeit breit erkennen, analysieren und teils autonom in verwertbare Angriffspfade überführen können. Als Beispiele für solche Frontier-Modelle nennt das Amt Claude Mythos und OpenAI GPT-5.5. Auch günstigere, kleinere Sprachmodelle spielten eine Rolle. Außerdem beobachte das BSI einen Fähigkeitszuwachs beim Reverse Engineering von Binaries.
Daraus kann nach Darstellung des Amts eine Lage entstehen, in der Organisationen deutlich mehr neu entdeckte Schwachstellen, Exploits, Patches und Folgevorfälle bewältigen müssen. Das BSI räumt ein, dass einzelne Prognosen mit Vorsicht zu lesen sind. Die Richtung hält es gleichwohl für klar: KI senke Aufwand, Zeitbedarf und Einstiegshürden für offensive Cyberfähigkeiten deutlich. Das verändere die Bedrohungslage strukturell.
Eine andere BSI-Seite sieht bislang keine neuen Angriffstechniken
Eine weitere BSI-Seite zu KI und aktuellen Cyberbedrohungen zeichnet ein anderes Bild. Sie unterscheidet drei Kategorien von Angriffen mit KI-Unterstützung. Erstens KI zur Aufklärung gegen Zielorganisationen, auch zur KI-gestützten Ausnutzung von Schwachstellen, für Social Engineering und Desinformation. Zweitens Angriffe auf KI-Systeme innerhalb der Zielorganisationen, etwa über Prompt Jailbreaks oder Poisoning. Drittens die unautorisierte KI-Nutzung durch Mitarbeitende.
Angreifergruppen nutzten KI zunehmend, heißt es dort. Neue Tactics, Techniques & Procedures (TTPs) seien bislang aber nicht beobachtet worden.
Beide Texte stammen vom BSI, und keiner ist datiert. Ob die eine Einschätzung die andere fortschreibt oder ihr widerspricht, lässt sich deshalb nicht sagen. Die eine Seite verneint neue Angriffstechniken, die andere spricht von einer strukturellen Veränderung. Wann welche Aussage entstand, geht aus dem Material nicht hervor.
Das BSI als zentrale Meldestelle und Forschungsstelle für KI-Sicherheit
Nach dem BSI-Gesetz in der Fassung vom 2. Dezember 2025 ist das Amt zentrale Meldestelle für IT-Sicherheit. Es sammelt und wertet Informationen über Sicherheitslücken und neue Angriffsmuster aus.
Im Bereich KI unterscheidet das BSI drei Berührungspunkte: IT-Sicherheit für KI, IT-Sicherheit durch KI und Angriffe durch KI. Dafür betreibt es Grundlagenforschung und entwickelt Anforderungen, Prüfkriterien und Prüfmethodologien.
Zur Einschätzung der automatisierten Schwachstellensuche hatten wir bereits berichtet: „BSI: KI-Modelle finden Schwachstellen und bauen Exploits weitgehend automatisiert“.
