MIT-Forscher Deb Roy fordert Antwortfähigkeit für Texte – auch wenn KI mitschreibt

Roy fordert Antwortfähigkeit für Texte, auch wenn KI mitformuliert

Deb Roy ist Professor für Media Arts and Sciences am MIT und leitet das MIT Center for Constructive Communication (CCC). Er verlangt mehr Verantwortung für Texte. In seinem Essay „Who stands behind the words?“ im Bulletin of the Atomic Scientists fordert er Rechenschaft und „Answerability“ auch dann, wenn KI beim Formulieren hilft. Laut MIT News ist ein Anlass unter anderem, dass KI realistisch wirkende Kommentare für Konsultationsverfahren erzeugen kann. Solche Eingaben lassen sich schwerer als Fälschung ohne reale Person dahinter abtun.

Roys eigene Arbeit liegt in diesem Feld. Das CCC und die eng verbundene Non-Profit-Organisation Cortico, die er mitgegründet hat, moderieren Gruppendiskussionen, etwa in Bürgerversammlungen, Schulen und Deliberationsformaten. Auch KI-Werkzeuge kommen dabei zum Einsatz, zum Beispiel um Themen in Kommentaren zu finden.

Von 1 Million FCC-Kommentaren bis 37.000 Fälschungen in Washington

Wie real das Problem ist, zeigt ein Fall aus dem Jahr 2017. Bots überfluteten damals die US-Regulierungsbehörde FCC im Verfahren zur Net Neutrality. Sie reichten mehr als eine Million Kommentare ein, die angeblich von echten Bürgern stammten und die Aufhebung der Regeln forderten. Laut Brennan Center flog das nur auf, weil Hunderttausende Kommentare auffällig ähnlich waren. Verschieden formulierte Texte hätten diese Spur nicht hinterlassen.

Ein jüngerer Fall stammt aus dem Bundesstaat Washington. Laut Techdirt wurde das Kommentarsystem zu einer Vermögensbesteuerung mit rund 37.000 gefälschten Kommentaren gegen den Vorschlag geflutet. Organisatoren identifizierten demnach zudem 37.824 zusätzliche Ablehnungs-Einträge, die durch tausendfach doppelte Namensangaben auffielen. Techdirt beruft sich dabei auf einen anderen Bericht. Die Primärquelle liegt nicht vor, die Angaben sind daher unbestätigt. Einen Zusammenhang mit Roys Essay stellen die Belege nicht her.

Schutzansätze und Chancen: Was die Fachbeiträge nennen

Brookings und das Journal of Democracy beschreiben, dass große Sprachmodelle die Erzeugung glaubwürdiger Texte in großen Mengen trivial machen. Öffentliche Kommentierung sehen beide deshalb als Form der Bürgerbeteiligung bedroht. Das Journal of Democracy nennt als Schutzansätze Erkennungs-Netze für generierte Inhalte, Selbstregulierung der Plattformen und mehr digitale Kompetenz. Zugleich sieht es Potenzial in KI als Bürgerhilfe, etwa beim Navigieren durch Bürokratie oder beim Entwurf eines Briefs an Abgeordnete.

Davon zu trennen ist KI auf Behördenseite. Laut Straight Arrow News setzt die FCC selbst Chatbots ein, darunter Claude, um Eingaben zu Regelsetzungsverfahren zusammenzufassen. Das berichtet das Portal unter Berufung auf Unterlagen, die per Informationsfreiheitsantrag erlangt wurden. Das sind keine KI-generierten Bürgerkommentare.

Ob Roys Essay empirisch Neues oder konkrete Vorschläge enthält, lässt sich aus dem vorliegenden Material nicht beurteilen.