KI SpotlightNews
KI-Lexikon
Angriff
Prompt Injection
Angriff, der eine KI über manipulierte Eingaben kapert.
Prompt Injection ist ein Angriff, bei dem versteckte oder eingeschleuste Anweisungen ein KI-System dazu bringen, seine eigentlichen Vorgaben zu missachten, etwa in eingelesenen Webseiten oder Dokumenten. Sie ist ein zentrales Sicherheitsproblem bei Assistenten mit Werkzeug- und Datenzugriff.