Sygnia veröffentlicht Leitfaden für sichere Enterprise-KI

Sygnia veröffentlicht Leitfaden für sichere Enterprise-KI

Sygnia hat ein eBook mit dem Titel „How to Secure Enterprise AI: From Adoption to Incident Readiness“ veröffentlicht. Es soll Leitlinien zur sicheren Implementierung von KI in Unternehmen und zur Vorbereitung auf Sicherheitsvorfälle geben. Nach Angaben des Unternehmens ist die Debatte über den Geschäftswert von KI beendet; die Herausforderung bestehe darin, KI in allen Unternehmensfunktionen sicher zu skalieren und gleichzeitig den Druck des Boards nach schnellem Handeln zu erfüllen. Das eBook adressiert die Lücke zwischen schneller KI-Adoption und unzureichender Governance, Kontrolle und Incident Readiness. Sygnia verweist darauf, dass Sicherheitsteams nicht genug Zeit hätten, sich anzupassen: Werkzeuge würden eingesetzt, aber Governance, Kontrollen und Vorfallsbereitschaft fehlten. Der Leitfaden richtet sich an Sicherheitsverantwortliche, die KI-Einführung ermöglichen und zugleich unkontrollierte Risiken vermeiden müssen. Er thematisiert, wie tief KI eingebettet werden sollte, abhängig vom KI-Typ – generative oder agentische KI. Je autonomer KI handele, desto weniger kontrollierbar sei sie.

Unternehmen sind auf KI-Vorfälle schlecht vorbereitet

Die Dringlichkeit untermauert Sygnia mit Daten aus dem 2026 CISO Survey Report, für den 600 IT- und Sicherheitsverantwortliche weltweit befragt wurden. Fast ein Drittel nutzt KI bereits umfassend in Threat Detection und Incident Response, und 63 Prozent erwarten eine vollständige Einbettung bis 2027. Gleichzeitig geben 73 Prozent an, bei einem signifikanten Cyberangriff morgen nicht vollständig vorbereitet zu sein. Diese Diskrepanz zeigt, dass die Werkzeuge schneller eingeführt werden als die nötigen Governance- und Kontrollstrukturen. Zudem gelangt KI oft über nicht genehmigte Wege ins Unternehmen: Mitarbeiter-Workarounds, SaaS-Plugins, Anbieter-Tools, interne Experimente und Entwicklungsteams. Diese Schatten-KI erhöht das Risiko, weil Sicherheitsteams sie nicht kontrollieren können. Sygnia betont, dass die erforderliche Tiefe der Einbettung vom KI-Typ abhängt; agentische KI sei weniger kontrollierbar als generative KI.

Microsoft und Sygnia liefern Werkzeuge und Forschung zu KI-Risiken

Das Thema wird branchenweit diskutiert. Microsoft bietet ein „Security Dashboard for AI“ an, das KI-Assets, Sicherheitsstatus und Handlungsbedarf in Echtzeit aggregiert und über Microsoft Entra, Purview und Defender sichtbar macht. Es beantwortet Fragen wie: Welche KI-Assets existieren, wie ist ihr Sicherheitsstatus und wo muss gehandelt werden? Zudem hat Microsoft den Leitfaden „Getting Started with AI Applications“ veröffentlicht, der Risiken wie Datenlecks, neue Bedrohungen, Compliance-Herausforderungen und spezifische Risiken agentischer KI behandelt. Sygnia selbst hat bei einem Penetrationstest einer mit Claude entwickelten Kunden-Onboarding-Anwendung eine kritische Schwachstelle gefunden: Der Besitz einer GUID wurde als ausreichend für die Ausstellung oder Wiederherstellung eines Zugriffstokens behandelt, wodurch fremde Datensätze einsehbar waren. Die Anwendung verarbeitete sensible persönliche und finanzielle Daten, darunter Ausweisdokumente und Zahlungsdaten. Außerdem hat Sygnia Forschung zu Log Prompt Poisoning und Injection-Risiken in XDR-KI-Zusammenfassungen veröffentlicht. Sie zeigt, wie vergiftete Logdaten KI-generierte Zusammenfassungen manipulieren können – etwa indem ein manipulierter PowerShell-Skriptblock eine scheinbar harmlose Zusammenfassung erzeugte, die eine Mimikatz-Ausführung verschleierte. Diese Beispiele belegen die praktische Relevanz der im eBook behandelten Sicherheitsfragen.

KI als Angriffsfläche: Empfehlungen und Praxisbezug

Sygnia empfiehlt, KI von Anfang an als Angriffsfläche zu behandeln. Dazu gehören Monitoring auf Prompt Injections, Schutz der Trainingsdatenintegrität, Anwendung ethischer Frameworks wie NIST AI RMF und Zero-Trust-Architekturen zur Segmentierung von Netzwerken, Identitäten und Code-Repositories. Diese Empfehlungen stammen aus einem früheren Interview mit Sygnias Rob Kehl, in dem er betonte, dass KI ohne Governance, Monitoring und Zero-Trust-Verteidigung bestehende Risiken verstärke. Die praktische Relevanz zeigt sich an zwei Beispielen: So testen derzeit 20 Kommunen agentische KI in einer Pilotphase, was die zunehmende Adoption belegt. Gleichzeitig verlor ein KI-Kostenmanager kürzlich die Kontrolle über seinen eigenen Agenten – ein Vorfall, der genau die Incident Readiness erfordert, die das eBook adressiert. Beide Fälle verdeutlichen, dass KI-Adoption und Sicherheitsvorfälle keine theoretischen Szenarien sind.