KI SpotlightNews
KI-Lexikon
Konzept
Jailbreak
Umgehung der Sicherheitsregeln eines Modells.
Ein Jailbreak ist ein gezielter Versuch, die eingebauten Sicherheits- und Inhaltsregeln eines KI-Modells durch geschickte Eingaben zu umgehen, damit es etwas tut, das es eigentlich verweigern soll. Jailbreaks sind ein ständiges Katz-und-Maus-Spiel zwischen Nutzern und Anbietern und ein wichtiges Thema der KI-Sicherheit.