KI SpotlightNewsExistenzielles Risiko
Gefahr schwerster Schäden durch fortgeschrittene KI.
Als existenzielles Risiko bezeichnet man die Sorge, dass sehr leistungsfähige, schlecht kontrollierte KI schwerste, womöglich unumkehrbare Schäden für die Menschheit verursachen könnte. Wie groß diese Gefahr ist, wird kontrovers diskutiert und motiviert die Forschung zu Sicherheit und Alignment.