KI SpotlightNewsKI-Cybercrime
Wie Künstliche Intelligenz digitale Angriffe, Betrug und organisierte Kriminalität verändert – und zugleich die Abwehr.
Mit KI erstelltKünstliche Intelligenz verändert nicht nur die digitale Wirtschaft, sondern auch die Methoden von Cyberkriminellen. Generative KI formuliert überzeugende Phishing-Mails, imitiert fremde Kommunikationsstile, passt Schadcode an und automatisiert Angriffe. Sprachbarrieren, fehlende Fachkenntnisse und hoher manueller Aufwand verlieren dadurch für Täter an Bedeutung.
Die grundlegenden Formen der Cyberkriminalität bleiben bestehen – neu sind vor allem Geschwindigkeit, Skalierung und Präzision. Öffentlich verfügbare Informationen aus sozialen Netzwerken, Unternehmensseiten und Datenlecks lassen sich automatisiert auswerten und für personalisierte Angriffe nutzen. Gleichzeitig setzen Verteidiger KI ein, um ungewöhnliche Aktivitäten zu erkennen und Warnungen zu priorisieren. Es entsteht ein technologisches Wettrennen.
Worum es geht
KI-Cybercrime umfasst Straftaten, bei denen Künstliche Intelligenz Angriffe ermöglicht, verbessert oder automatisiert: KI-gestütztes Phishing, Identitätsbetrug, Social Engineering, Schadsoftware, automatisierte Schwachstellensuche – und Angriffe auf KI-Systeme selbst. Dazu zählen auch Prompt Injection, manipulierte Trainingsdaten, gestohlene Modelle und kompromittierte KI-Agenten. Das Thema betrifft damit nicht nur klassische IT-Sicherheit, sondern Unternehmen, Behörden, Plattformen und private Nutzer.
Zentrale Entwicklungen
- KI-generierte Phishing- und Betrugsnachrichten, personalisiertes Social Engineering
- automatisierte Suche nach Sicherheitslücken und KI-gestützte Anpassung von Schadcode
- Angriffe auf Sprachmodelle und KI-Agenten (Prompt Injection, Jailbreaks)
- erstmals real eingesetzte, LLM-gestützte Malware – Google (GTIG) beschrieb 2025 PROMPTFLUX, die sich per Sprachmodell zur Laufzeit selbst verschleiert (noch im Test-/Entwicklungsstadium)
- staatlich unterstützte Cyberoperationen; Anthropic berichtete im November 2025 von einer weitgehend KI-orchestrierten Spionagekampagne – eine Anbieterdarstellung, die unabhängige Fachleute zu Zurückhaltung mahnt
- KI-basierte Erkennung und Abwehr von Angriffen auf der Verteidigungsseite
Risiken und offene Fragen
Besonders kritisch ist die Verbindung aus automatisierter Datenauswertung, glaubwürdiger Kommunikation und skalierbaren Angriffen. Bei agentischen KI-Systemen kommt hinzu, dass ein manipuliertes Modell selbst Aktionen auslösen kann – E-Mails senden, Datenbanken abfragen, Dateien ändern. Offen bleibt, wie sich externe Inhalte sauber von vertrauenswürdigen Anweisungen trennen lassen.
Unsere Einordnung
KI erfindet Cyberkriminalität nicht neu, sie senkt aber die Einstiegshürden und macht bestehende Angriffsmethoden leistungsfähiger. Entscheidend wird deshalb nicht allein sein, ob Unternehmen KI-Sicherheitssysteme einsetzen. Sie müssen zugleich kontrollieren, welche Daten ihre eigenen KI-Anwendungen verarbeiten, welche Aktionen Agenten ausführen dürfen und wie externe Inhalte in interne Systeme gelangen.
Medien-Echo
Deutschsprachige Berichterstattung
- heise online – Cybercrime 2025: Wie sich Mittelständler gegen KI-gestützte Angriffe wappnen
- Security-Insider – BSI-Lagebericht 2025: Mehr Schwachstellen in Deutschland
- Trend Micro – Der Stand der kriminellen KI heute
Internationale Berichterstattung
- The Hacker News – Chinese Hackers Use Anthropic's AI in Automated Cyber Espionage
- The Hacker News – Google Uncovers PROMPTFLUX Malware Using Gemini AI
- Infosecurity Magazine – AI-Enabled Malware Now Actively Deployed, Says Google
Diskussion und Debatte
- Institute for AI Policy and Strategy – The Emergence of Autonomous Cyber Attacks
- OWASP – Top 10 for Agentic Applications