Red Teaming
Gezieltes Testen von KI auf Schwachstellen.
Red Teaming ist das systematische Angreifen eines KI-Systems durch ein eigenes Team, um Schwachstellen, gefährliche Ausgaben und Umgehungsmöglichkeiten aufzudecken, bevor es Nutzer tun. Es ist ein zentraler Baustein der KI-Sicherheit vor der Veröffentlichung eines Modells.