Ex-Attorney-General Hermer nennt KI ein existenzielles Risiko für die Menschheit

Ex-Attorney-General warnt: KI als existenzielles Risiko

Richard Hermer war bis zur Regierungsumbildung unter Premierminister Andy Burnham Attorney General von England und Wales. Nun warnt er in einem Gastbeitrag im Guardian vor den Risiken künstlicher Intelligenz. Ohne eine dringende öffentliche Debatte und den entschlossenen Einsatz des Völkerrechts, so seine Kernaussage, verliere die Menschheit die Kontrolle über ihre Zukunft.

Hermer schreibt, er habe in seinen zwei Jahren im Amt mehr Zeit mit der nationalen Sicherheit verbracht als mit jedem anderen Thema. Dazu gehörten Terrorismus, bewaffnete Konflikte und Nuklearproliferation, ebenso finanzielle Unsicherheit und die Klimakrise. Das seien schwierige Herausforderungen, mit denen die Geheimdienste und das Militär des Landes umgehen könnten. Das Risiko durch KI sei dagegen „of an altogether different magnitude“. Es sei größer, und zugleich bleibe nur ein enges Zeitfenster, es zu bewältigen. Hermer bezeichnet es als existenzielles Risiko für die Menschheit. Sein Fazit lautet: „The lights are flashing red and we must act now before it’s too late.“

Auslöser: Hugging-Face-Hack und Rücktritt bei Anthropic

Die Gefahren der KI seien von Beteiligten an ihrer Entwicklung seit Langem benannt worden, schreibt Hermer. Öffentliches Gewicht habe das Thema jedoch erst sehr kürzlich bekommen, nach dem Bekanntwerden des Hugging-Face-Hacks und dem Rücktritt von Jacob Coxon bei Anthropic. Details zu beiden Ereignissen nennt der vorliegende Auszug nicht.

Hermer sieht darin eine Gelegenheit, die man nutzen müsse. Er fordert mehr Tempo bei der internationalen Koordination zur Regulierung von Frontier-KI. Außerdem brauche es echte öffentliche Beteiligung daran, wie KI gestaltet werden solle, damit sie der Menschheit nütze und nicht die Macht weniger festige. Diese Gestaltung dürfe man nicht China und den USA überlassen.

Welche Rechtsgrundlagen oder Vertragsvorschläge er mit dem „robusten Einsatz des Völkerrechts“ meint, geht aus dem Textauszug nicht hervor. Die Begründung weiterer Argumente des Beitrags ist darin ebenfalls nicht sichtbar.

Abschied nach zwei Jahren im Amt

Hermer ist Barrister, wurde 1993 zur Anwaltschaft zugelassen und war Head of Chambers bei Matrix. Attorney General war er seit dem 5. Juli 2024. Er schied aus der Regierung aus, als Burnham Keir Starmer als Premierminister ablöste und am ersten Tag sein Kabinett umbaute. Auch David Lammy, Rachel Reeves, Steve Reed und Peter Kyle verließen die Regierung.

Die Quellen stellen den Abgang unterschiedlich dar. Eine schildert, Burnham habe Hermer aus dem Kabinett entfernt. Andere bezeichnen den Abschied als erwartet. Hermer selbst bestätigte ihn und sprach vom „privilege of my life“. Als seine Erfolge, auf die er besonders stolz sei, nannte er das Hillsborough-Gesetz und die Wiederherstellung des internationalen Rechtsrufs Großbritanniens. Ob er entlassen wurde oder zurücktrat, geht aus dem Material nicht eindeutig hervor.

In einem früheren Interview der International Bar Association betonte Hermer die zentrale Rolle des Völkerrechts. Internationale Institutionen müssten sich weiterentwickeln. Einen Bezug zu KI stellte er dort nicht her.