KI macht Low-Skill-Hacktivisten zu Staatstrojaner-Konkurrenten

KI macht Low-Skill-Hacktivisten zu Staatstrojaner-Konkurrenten

Laut dem Sicherheitsforschungsteam Unit 42 von Palo Alto Networks wirkt Künstliche Intelligenz als „Force Multiplier“ für gering qualifizierte Cyber-Angreifer. Diese seien nun „mit denselben Werkzeugen und derselben Komplexität wie eine staatlich gestützte Gruppe“ ausgestattet, so die Forscher. Unit 42 spricht von einem dauerhaften „Generationenwechsel“ in der Cybersicherheit. Die Forscher halten es für ein „wahrscheinliches“ Szenario, dass sogenannte Script Kiddies – gering oder nicht qualifizierte Angreifer, die vorgefertigte Skripte nutzen – künftig die Grundfesten der Cyberabwehr erschüttern könnten. Diese Einschätzung ist eine Prognose von Unit 42 und nicht durch unabhängige Quellen bestätigt.

Unit 42 gibt an, dass sich durch KI auch die Klassifizierung von Bedrohungen verändere; Hacktivismus werde voraussichtlich ins Zentrum rücken. Die Forscher begründen dies nicht näher im vorliegenden Material. Organisationen müssten auf die neue Lage mit vier Maßnahmen reagieren, so Unit 42. Deren konkrete Inhalte sind im vorliegenden Material jedoch nicht enthalten.

Die Aussagen von Unit 42 basieren auf frühen Erkenntnissen aus dem im April gestarteten Dienst Frontier AI Defense, der Threat Intelligence, Threat Telemetry und Frontier-KI-Modelle kombiniert. In dreiwöchigen internen Tests mit KI-Pentest-Modellen habe Unit 42 nach eigenen Angaben die Arbeit von etwa ein bis zwei Jahren Penetrationstests erledigt und Dutzende Schwachstellen in Kundenumgebungen aufgedeckt. Diese Ergebnisse sind Herstellerangaben und nicht unabhängig verifiziert. Zusätzlich weist Unit 42 darauf hin, dass die Geschwindigkeit KI-basierter Schwachstellenerkennung und -tests auch verdeutliche, welchen Einfluss KI-Modelle für Cyberkriminelle haben könnten, die dieselben Werkzeuge nutzen.

Anthropic sperrt 832 Konten: 67 Prozent nutzten KI zur Angriffsvorbereitung

Der KI-Anbieter Anthropic hat eine Analyse der missbräuchlichen Nutzung seiner Systeme veröffentlicht. Zwischen März 2025 und März 2026 sperrte das Unternehmen nach eigenen Angaben 832 Konten wegen bösartiger Cyber-Aktivität. Die Forscher ordneten die beobachteten Aktivitäten dem MITRE ATT&CK-Framework zu, das Taktiken und Techniken von Angreifern dokumentiert. Insgesamt erfassten sie 13.873 Aktionen, die 482 einzigartige ATT&CK-Techniken und alle 14 Taktiken abdecken.

Die häufigste KI-gestützte Aktivität betraf die Vorbereitung von Angriffen: 67,3 Prozent der untersuchten Konten – 560 von 832 – nutzten KI für Aufgaben wie das Schreiben von Malware. Ein kleinerer Teil, 6,5 Prozent (54 Konten), setzte KI für Lateral Movement ein, also die Bewegung innerhalb eines kompromittierten Netzwerks. Während des Untersuchungszeitraums stieg die KI-unterstützte Konto-Entdeckung in kompromittierten Umgebungen um 8,9 Prozent, während KI-unterstütztes Phishing um 8,6 Prozent zurückging.

Anthropic weist darauf hin, dass solche Post-Compromise-Techniken früher Akteuren mit technischem Wissen vorbehalten waren. Die 832 Fälle sind nach Angaben des Unternehmens nur eine Teilmenge aller in diesem Zeitraum gesperrten Konten; ausgewählt wurden jene, bei denen genügend Details für eine gründliche Bewertung der Angreifertechniken vorlagen. Die Analyse stammt vom Frontier Red Team von Anthropic und floss teilweise in den Verizon Data Breach Investigations Report 2026 ein. Die Daten deuten auf eine Verschiebung hin: weg von Phishing hin zu fortgeschritteneren Post-Compromise-Aktivitäten.

Darktrace fängt vollständig KI-generierte Malware im Honeypot

Der Sicherheitsanbieter Darktrace hat in seinem globalen Honeypot-Netzwerk „CloudyPots“ eine vollständig KI-generierte Malware-Probe beobachtet. Die Probe nutzte die Schwachstelle CVE-2025-55182 aus, auch bekannt als React2Shell. Der Angreifer legte über die Docker-API einen Container mit dem Namen „python-metrics-collector“ an. Der Startbefehl des Containers installierte zunächst benötigte Werkzeuge wie curl, wget und Python 3 und lud anschließend eine Liste erforderlicher Python-Pakete herunter.

Darktrace ordnet den Vorfall als Beleg für reale, autonome KI-Angriffe ein. Mit der zunehmenden Verbreitung KI-unterstützter Softwareentwicklung – von Darktrace als „Vibecoding“ bezeichnet – nutzten Angreifer große Sprachmodelle, um schnell funktionsfähige Werkzeuge zu erzeugen. Der Vorfall zeige, dass KI nun auch gering qualifizierten Akteuren ermögliche, effektive Exploit-Frameworks in hoher Geschwindigkeit zu generieren. Anders als bei früheren Beobachtungen, bei denen KI lediglich Teile des Angriffs unterstützte, wurde diese Malware vollständig von einer KI generiert. Die Einstufung als vollständig KI-generiert beruht darauf, dass der gesamte Schadcode von einem großen Sprachmodell erzeugt wurde und keine menschliche Programmierarbeit enthielt – ein Prozess, den Darktrace als „Vibecoding“ beschreibt. Dadurch agierte die KI autonom bei der Erstellung der Malware. Die Honeypot-Umgebung war absichtlich ohne Authentifizierung dem Internet ausgesetzt, um Angreiferverhalten in Echtzeit zu beobachten.

FBI zählt 22.364 KI-Beschwerden, Dark-Web-Erwähnungen steigen 219 Prozent

Die quantitativen Trends untermauern die qualitative Einschätzung. IBMs Studie „Cost of a Data Breach“ 2026 ergab, dass einer von vier bösartigen Verstößen KI-unterstützt war. Das FBI verzeichnete im Jahr 2025 insgesamt 22.364 US-Beschwerden mit KI-Bezug und fast 893 Millionen US-Dollar gemeldete Verluste. Die Beschwerdezahlen hängen von der Meldung durch Opfer, der Klassifizierung und der US-Zuständigkeit ab und sind nicht mit bestätigten Vorfällen oder globalen Verlusten gleichzusetzen.

Über den Zeitraum von 2023 bis 2025 verzeichneten Forscher einen Anstieg von 219 Prozent bei Dark-Web-Erwähnungen bösartiger KI-Tools. Erste bösartige Large Language Models wie WormGPT und FraudGPT wurden dokumentiert. Laut einer Analyse von Dark-Web-Aktivitäten hat sich aus anfänglicher Neugier eine strukturierte Untergrundökonomie gebildet, in der kriminelle Akteure KI-Modelle ohne Sicherheitsvorkehrungen kaufen, verkaufen und einsetzen. Die Einstiegshürde ist gesunken: Ein Angreifer, der früher Programmierkenntnisse für ein Phishing-Kit benötigte, kann heute einen kriminellen LLM-Dienst abonnieren und in Minuten überzeugende, zielgerichtete Angriffsinhalte erzeugen. Die Zahlen stammen aus unterschiedlichen Quellen mit unterschiedlichen Grundgesamtheiten und sind daher nicht direkt vergleichbar.

Unit 42s Antwort: Frontier AI Defense und KI-Pentests in drei Wochen

Als Antwort auf die Bedrohungslage hat Unit 42 im April den Dienst Frontier AI Defense gestartet. Der Dienst kombiniert nach Angaben des Unternehmens Threat Intelligence, Threat Telemetry und Frontier-KI-Modelle, um Unternehmenskunden bei Sicherheitsproblemen zu unterstützen, die durch KI dringlich geworden sind. In dreiwöchigen internen Tests mit KI-Pentest-Modellen fand Unit 42 nach eigenen Angaben Dutzende Schwachstellen in Kundenumgebungen und erledigte die Arbeit von etwa ein bis zwei Jahren Penetrationstests.

Die Forscher argumentieren, dass die Geschwindigkeit KI-basierter Schwachstellenerkennung und -tests auch verdeutlicht, welchen Einfluss KI-Modelle für Cyberkriminelle haben könnten, die dieselben Werkzeuge nutzen. Die Verteidigungsseite zeigt, dass dieselbe Technologie, die Angreifern als Force Multiplier dient, auch zur Beschleunigung der Abwehr eingesetzt werden kann. Die Angaben wurden im Rahmen einer Pressekonferenz von Unit 42 gemacht. Die internen Testergebnisse sind Herstellerangaben und wurden nicht unabhängig verifiziert.