MIT-Professor Deb Roy warnt: KI trennt Sprecher und Äußerung

Roy warnt: KI-Eingaben kappen die Verbindung zwischen Sprecher und Wort

Deb Roy, Professor für Media Arts and Sciences am MIT, sieht die öffentliche Debatte in Gefahr. Die Verantwortung für Aussagen gehe verloren. In dem Essay „Who stands behind the words?“ im Bulletin of the Atomic Scientists schreibt er, KI kappe die Verbindung zwischen Sprecher und Äußerung. Auch wenn Texte mit KI-Hilfe entstehen, müsse es Verantwortung und „answerability“ geben.

Ausgangspunkt sind Public-Comment-Verfahren, in denen Behörden Stellungnahmen der Öffentlichkeit einholen. Massenhaft produzierte Fake-Kommentare sind für Gesetzgeber ein bekanntes Problem. Nach der Darstellung des MIT haben sie sich weitgehend darauf eingestellt, solche Eingaben zu erkennen. KI erzeugt dagegen realistisch wirkende Kommentare. Diese lassen sich schwerer als Fälschung abtun, hinter der keine reale Person steht. Dann steht niemand für die Aussage ein.

Roy leitet als Direktor das MIT Center for Constructive Communication (CCC). Zudem ist er Mitgründer und unbezahlter CEO von Cortico, einer eng verbundenen Non-Profit-Organisation, die eine Gesprächsplattform betreibt. Neue Daten zum Ausmaß KI-generierter Bürgereingaben liefert der Essay nach der vorliegenden Quellenlage nicht.

Standing und Answerability: Institutionen sollen jedes Wort an einen Menschen binden

Nach der Zusammenfassung auf der CCC-Seite betrifft der Verlust das „standing“: das Recht, dass die eigenen Worte zählen, gedeckt dadurch, dass man für sie einsteht. Die Lösung seien demnach nicht bessere Modelle, sondern Institutionen, die jedes Wort an einen verantwortlichen Menschen binden. Answerability meint die Bereitschaft, sich befragen zu lassen und Behauptungen zu verteidigen. KI kann Texte entwerfen, zusammenfassen oder auswerten. Standing und Answerability besitzt sie nicht.

Der Essay nennt vier Gestaltungsprinzipien: attributable authorship, decomposed and inspectable processes, provenance as infrastructure und widened standing. Dazu gehört eine Regel zur Autonomie. Sie ist nur erlaubt, wenn Unverantwortlichkeit verhindert wird.

Diese Angaben stammen aus der Zusammenfassung von hyper.ai, nicht aus dem Volltext des Essays. Der dort wiedergegebene Text bricht ab, bevor die Umsetzung der Prinzipien beschrieben wird. Wie Roy sie institutionell verankern will, lässt sich deshalb nicht beurteilen.

Comment Integrity and Management Act: Der Kongress setzt auf menschliche Verifikation

Unabhängig von Roys Essay hat das US-Repräsentantenhaus den Comment Integrity and Management Act of 2024 per Voice Vote ohne Gegenstimmen verabschiedet. Sponsor ist der Republikaner Clay Higgins aus Louisiana. Das Gesetz blockiert LLM-generierte Kommentare nicht. Es schafft einen rechtlichen Rahmen für den Umgang mit computergenerierten Kommentaren auf Regulations.gov und anderswo. Außerdem sieht es eine menschliche Verifikation elektronisch eingereichter Kommentare vor. Für die Umweltbehörde EPA ist Regulations.gov etwa der bevorzugte Einreichungsweg. Ob sich Roy auf das Gesetz bezieht, geht aus dem Material nicht hervor.

Die beiden Organisationen CCC und Cortico moderieren selbst Gruppendiskussionen, etwa in Bürgerversammlungen, Schulen, Bürgerräten und Organisationen. Dabei nutzen sie auch KI-Werkzeuge, um Themen in den Beiträgen zu finden.