OECD startet automatisiertes Monitoring für KI-Vorfälle und veröffentlicht Werkzeugkatalog

OECD startet automatisiertes Monitoring für KI-Vorfälle

Die OECD hat den AI Incidents Monitor (AIM) gestartet, ein Tool zur automatisierten Entdeckung von KI-Vorfällen und -Gefahren in Medien. AIM durchsucht laufend Nachrichtenquellen und identifiziert dabei nicht nur bereits eingetretene Schadensfälle, sondern auch sogenannte KI-Gefahren (AI Hazards). Eine KI-Gefahr definiert das System als ein glaubwürdiges Risiko zukünftigen Schadens, das durch den Einsatz oder die Weiterentwicklung von KI-Systemen entstehen kann – nicht als einen bereits realisierten Vorfall. Ein Beispiel aus der Dokumentation des Monitors verdeutlicht dies: Ein Artikel, der vor weitverbreiteten Arbeitsplatzverlusten durch KI warnt und zu Governance-Maßnahmen aufruft, beschreibt keinen konkreten Schaden, sondern ein plausibles zukünftiges Risiko. Genau solche Warnungen erfasst AIM als KI-Gefahr. Das Ziel des automatisierten Medienmonitorings ist es, frühzeitig auf potenzielle Risikobereiche hinzuweisen und damit eine breitere Informationsbasis für politische Entscheidungsprozesse und die öffentliche Diskussion über KI-Governance zu schaffen.

Neuer Werkzeugkatalog für vertrauenswürdige KI veröffentlicht

Parallel zum AIM hat die OECD einen Katalog von Tools und Metriken für vertrauenswürdige KI veröffentlicht. Er dient als zentrale Anlaufstelle für KI-Akteure, die praktische Hilfsmittel für die Entwicklung und den Einsatz vertrauenswürdiger Systeme suchen. Die OECD begründet das Angebot damit, dass es zwar bereits zahlreiche Werkzeuge und Metriken gibt, diese jedoch oft schwer auffindbar sind und in den laufenden KI-politischen Diskussionen kaum Beachtung finden. Der Katalog bündelt daher Ansätze, Mechanismen und Praktiken an einem Ort und soll so den Zugang erleichtern. Ausdrücklich weist die OECD darauf hin, dass die aufgeführten Tools und Metriken ausschließlich von den jeweiligen Urhebern stammen und weder von der Organisation selbst noch von ihren Mitgliedsländern geprüft oder unterstützt werden. Nutzer müssen daher eigenständig bewerten, ob die angebotenen Werkzeuge für ihren spezifischen Anwendungsfall geeignet und vertrauenswürdig sind. Der Katalog versteht sich als reine Informationssammlung, nicht als Gütesiegel.

Wenn KI überwacht und selbst halluziniert

Während die OECD nun ein automatisiertes Monitoring für KI-Vorfälle startet, zeigen Reddit-Diskussionen die ganze Bandbreite der Herausforderungen: u/OnlyPaperListens in r/overemployed kritisiert, dass KI-Überwachungstools oft an der falschen Stelle messen – „Hört auf, über Teamwork zu lügen, wenn ihr Leute nach Mausbewegungen und Tippgeschwindigkeit bewertet.“ Gleichzeitig warnt u/Francetim in r/ArtificialInteligence, dass ausgerechnet die Expert:innen mit jahrzehntelanger Erfahrung in globalen Krisen die KI-Revolution aussitzen. Und u/Garden_Wizard in r/ArtificialInteligence belegt mit einer KI-halluzinierten „Lösung“ des MH370-Falls, wie dringend ein solches Monitoring tatsächlich ist. Die OECD-Initiative könnte genau hier ansetzen – vorausgesetzt, sie vermeidet die blinden Flecken und Fehlanreize, die in den Kommentaren aufblitzen.