Britischer Menschenrechtsausschuss fordert eigenes KI-Gesetz

Ausschuss fordert eigenes KI-Gesetz wegen Menschenrechtsrisiken

Der Gemeinsame Ausschuss für Menschenrechte (JCHR) des britischen Parlaments hat einen Bericht veröffentlicht, in dem eine überparteiliche Gruppe von Abgeordneten und Peers menschenrechtliche Risiken durch Künstliche Intelligenz identifiziert. Der Ausschuss argumentiert, dass bestehende Gesetze nicht geeignet sind, diese Risiken abzudecken, da sie nicht auf die besonderen Eigenschaften von KI-Systemen zugeschnitten sind – etwa die Möglichkeit, dass KI durch voreingenommene Trainingsdaten diskriminierende Entscheidungen trifft. Konkret nennt der Bericht das Risiko, dass KI-Systeme Vorurteile gegenüber bestimmten Gruppen zeigen, wenn sie mit großen, aus dem Internet gescrappten Datensätzen trainiert werden, die rassistisches, sexistisches und anderes unerwünschtes Material enthalten. Er fordert ein neues Gesetz, um der „Größe und Ernsthaftigkeit“ solcher Bedrohungen zu begegnen. Ausschussvorsitzender Alex Sobel (Labour) wird mit den Worten zitiert: „Nirgendwo auf der Welt, einschließlich Großbritannien, ist der aktuelle gesetzliche und regulatorische Ansatz zu KI zweckmäßig.“

Regierung verweist auf Sicherheitsinstitut und globales Testen

Ein Sprecher der britischen Regierung erklärte, Künstliche Intelligenz schreite „mit außerordentlichem Tempo“ voran und schaffe sowohl Chancen als auch Risiken. Als ein konkretes Risiko gilt etwa die algorithmische Diskriminierung durch voreingenommene Trainingsdaten, wie sie auch der Menschenrechtsausschuss benennt. Das außerordentliche Tempo bedeutet, dass sich solche Risiken schneller verbreiten können, bevor Regulierungsmechanismen greifen. Deshalb sei es wichtig, KI zu testen und zu verstehen. Großbritannien führe die globalen Anstrengungen an, mit dem am besten ausgestatteten Sicherheitsinstitut der Welt, das helfen werde, die notwendigen Standards und Schutzmaßnahmen zu entwickeln, um die Menschen sicher zu halten.

Amodei, Altman und Musk plädieren für strengere Aufsicht

Dario Amodei, Leiter des US-KI-Unternehmens Anthropic, hat einen Plan zur Regulierung von Künstlicher Intelligenz vorgeschlagen. Der Plan umfasst eine globale Regulierung, eine branchenweite Regulierung sowie eine unabhängige Überwachung von KI-Modellen während ihrer Entwicklung. Die Forderung nach globaler und branchenweiter Regulierung trägt dem Umstand Rechnung, dass KI-Systeme länderübergreifend entwickelt und eingesetzt werden und ein Flickenteppich nationaler Regeln Risiken nicht wirksam eindämmen kann. Die unabhängige Überwachung während der Entwicklung soll sicherstellen, dass potenzielle Gefahren frühzeitig erkannt werden. Amodei forderte zudem, das Tempo der Entwicklung zu verlangsamen, um zu verhindern, dass leistungsfähige Modelle ohne ausreichende Sicherheitsprüfungen in den Einsatz gelangen. Nach seinen Angaben stimmten die Chefs zweier konkurrierender KI-Firmen, Sam Altman von OpenAI und Elon Musk, dem Plan zu.

Bisheriger UK-Ansatz setzt auf Prinzipien statt Gesetz

Das Vereinigte Königreich hat bisher kein eigenständiges Gesetz für Künstliche Intelligenz erlassen. Stattdessen verfolgt die Regierung einen sektorbasierten, prinzipiengeleiteten Ansatz, der im Weißbuch zur KI-Regulierung aus dem Jahr 2023 dargelegt ist. Dieser Ansatz wurde gewählt, um flexibel und innovationsfreundlich zu sein, da er keine starren Regeln vorgibt, sondern Prinzipien, die von bestehenden Regulierungsbehörden sektorspezifisch angewendet werden. Allerdings lässt er Unternehmen mit Unsicherheit zurück, weil unklar ist, wie die Regulierungsbehörden diese Prinzipien interpretieren und durchsetzen werden. Die fünf Prinzipien umfassen Sicherheit und Robustheit, angemessene Transparenz und Erklärbarkeit, Fairness, Rechenschaftspflicht und Governance sowie Anfechtbarkeit und Wiedergutmachung. Die Zuständigkeit für die Anwendung dieser Prinzipien ist auf bestehende Regulierungsbehörden verteilt: das Information Commissioner's Office (ICO) für Datenschutz, die Financial Conduct Authority (FCA) für Finanzdienstleistungen, die Medicines and Healthcare products Regulatory Agency (MHRA) für Medizintechnik, die Competition and Markets Authority (CMA) für Verbraucherfairness und die Equality and Human Rights Commission (EHRC) für Diskriminierungs- und Gleichstellungsfragen bei algorithmischen Entscheidungen.

Bias in Trainingsdaten als konkretes Menschenrechtsrisiko

Ein in den letzten Jahren geäußertes menschenrechtliches Bedenken betrifft die Verzerrung durch Trainingsdaten. KI-Systeme können Vorurteile gegenüber bestimmten Gruppen zeigen, wenn sie mit großen Datensätzen trainiert werden, die aus dem Internet gescrappt wurden. Solche Datensätze können rassistisches, sexistisches und anderes unerwünschtes Material enthalten. Dies kann dazu führen, dass automatisierte Entscheidungen – etwa bei der Kreditvergabe, der Personalauswahl oder im Justizsystem – bestimmte Gruppen systematisch benachteiligen, weil die KI aus den verzerrten Daten diskriminierende Muster übernimmt. Betroffene könnten dadurch etwa schlechtere Kreditkonditionen erhalten, bei Bewerbungen übergangen oder unverhältnismäßig häufig von Strafverfolgungsmaßnahmen betroffen sein.