KI SpotlightNewsMechanistische Interpretierbarkeit
Verstehen, wie ein Netz intern rechnet.
Die mechanistische Interpretierbarkeit versucht, die inneren Abläufe eines neuronalen Netzes bis auf die Ebene einzelner Neuronen und Schaltkreise zu verstehen, ähnlich dem Reverse Engineering eines Programms. Ziel ist, nachvollziehen und vorhersagen zu können, warum ein Modell bestimmte Ausgaben erzeugt.