Science-Studie: UK AI Safety Institute testet politische Überzeugungskraft von KI

Science-Studie: UK AI Safety Institute testet politische Überzeugungskraft von KI

In der Fachzeitschrift Science wurde eine Studie des UK AI Safety Institute veröffentlicht, die in Zusammenarbeit mit dem Oxford Internet Institute, der London School of Economics, der Stanford University und dem MIT entstanden ist. Die Forschung untersucht, wie konversationelle KI politische Einstellungen beeinflussen kann. Dafür wurden drei großangelegte Experimente mit insgesamt über 76.000 Teilnehmern durchgeführt, in denen die Überzeugungskraft von 19 verschiedenen KI-Modellen zu mehr als 700 politischen Themen getestet wurde. Das zentrale Ziel der Studie war es, die Hebel der KI-gestützten Persuasion zu verstehen – also herauszufinden, was die Überzeugungskraft der KI wirksam macht und unter welchen Bedingungen sie besonders stark ausgeprägt ist. Die Forscher interessierten sich dabei insbesondere für die Frage, ob die persuasive Wirkung hauptsächlich durch den Modus der Kommunikation bestimmt wird. Mit diesem umfassenden Ansatz liefert die Studie eine der bislang größten empirischen Untersuchungen zur politischen Überzeugungskraft von KI-Systemen und schafft eine wichtige Grundlage für die Bewertung potenzieller Risiken und Regulierungsbedarfe im Bereich der KI-Sicherheit.

Über 76.000 Teilnehmer und 700 politische Themen: Das Design der drei Experimente

Die Studie stützt sich auf drei großangelegte Experimente, die in ihrem Umfang und ihrer methodischen Anlage neue Maßstäbe setzen. Insgesamt wurden über 76.000 Teilnehmer in die Untersuchung einbezogen, die mit 19 verschiedenen konversationellen KI-Modellen zu mehr als 700 politischen Themen interagierten. Diese enorme Bandbreite an Themen und Modellen ermöglichte es den Forschern, die Überzeugungswirkung der KI unter einer Vielzahl von Bedingungen zu messen und miteinander zu vergleichen. Die drei Experimente bauten aufeinander auf und erweiterten jeweils den Untersuchungsrahmen, um die wirksamen Hebel der KI-gestützten Persuasion zu identifizieren. Im Mittelpunkt stand dabei die Frage, ob die Überzeugungskraft der KI hauptsächlich durch den Modus der Kommunikation bestimmt wird – also durch die Art und Weise, wie die KI ihre Botschaften vermittelt und mit den Teilnehmern interagiert – oder ob andere Faktoren eine größere Rolle spielen. Die Studie liefert damit eine systematische Analyse der Mechanismen, die der politischen Einflussnahme durch konversationelle KI zugrunde liegen.

Auf der Suche nach den Hebeln: Was KI-Überzeugung wirksam macht

Das zentrale Forschungsziel der Studie war es, die wirksamen Hebel – im Original „levers“ – der KI-gestützten Persuasion zu identifizieren und zu verstehen. Die Forscher wollten herausfinden, welche spezifischen Mechanismen dafür sorgen, dass konversationelle KI politische Einstellungen verändern kann, und unter welchen Bedingungen diese Mechanismen besonders stark greifen. Eine der zentralen untersuchten Fragen war, ob die Überzeugungskraft hauptsächlich durch den Modus der Kommunikation bestimmt wird, also durch die Art und Weise, wie die KI ihre Botschaften vermittelt und mit den Teilnehmern interagiert. Diese Fragestellung ist von besonderer Bedeutung, weil sie Aufschluss darüber gibt, ob die persuasive Wirkung eher in der technischen Umsetzung der Konversation liegt oder in anderen Faktoren wie der Glaubwürdigkeit der Quelle oder der Personalisierung der Inhalte. Die Studie liefert mit ihrem umfassenden Design eine empirische Grundlage, um diese für die KI-Sicherheitsforschung zentrale Frage zu beantworten und die spezifischen Hebel der Überzeugungskraft zu identifizieren.

KI-Persuasion im Bewerbungsgespräch: Ein verwandtes Forschungsfeld

Die Frage, wie KI Überzeugungsprozesse beeinflusst, wird nicht nur in der politischen Kommunikation untersucht. Ein früherer Artikel in diesem Magazin befasste sich mit KI-gestützter Persuasion in Bewerbungsgesprächen unter dem Titel „KI-Wettrüsten im Bewerbungsgespräch: Wenn beide Seiten aufrüsten“. Der Beitrag analysierte, wie KI-Tools sowohl aufseiten von Bewerbern als auch von Unternehmen eingesetzt werden, um die jeweils andere Seite zu überzeugen. Bewerber nutzen demnach KI, um ihre Antworten zu optimieren und im Vorstellungsgespräch überzeugender zu wirken, während Unternehmen KI-gestützte Systeme einsetzen, um Kandidaten zu bewerten und deren Eignung einzuschätzen. Diese Entwicklung zeigt, dass die Mechanismen der KI-gestützten Persuasion nicht auf den politischen Bereich beschränkt sind, sondern in verschiedenen Kontexten wirken. Die aktuelle Science-Studie erweitert dieses Forschungsfeld nun systematisch auf die politische Kommunikation und untersucht, wie konversationelle KI Einstellungen zu politischen Themen verändern kann.

KI-Personas in Umfragen: Methodische Vorläufer der aktuellen Studie

Dass KI-Systeme in der Umfrageforschung bereits eine bedeutende Rolle spielen, zeigte ein früherer Beitrag dieses Magazins. Unter dem Titel „Studie prüft KI-generierte Personas als Ersatz für Umfrageteilnehmer“ wurde untersucht, ob synthetische, von KI erzeugte Personas menschliche Befragte in der Markt- und Meinungsforschung ersetzen können. Die damalige Studie zeigte, dass KI-generierte Personas in manchen Fällen ähnliche Ergebnisse liefern wie echte Befragte, was methodische Chancen und Herausforderungen für die Forschung mit sich bringt. Die aktuelle Science-Studie knüpft methodisch an diese Entwicklung an, betrachtet KI jedoch aus einer anderen Perspektive: Während es bei den KI-Personas um die Simulation von Meinungen ging, steht nun die aktive Veränderung realer politischer Einstellungen durch konversationelle KI im Mittelpunkt. Beide Forschungsstränge gemeinsam verdeutlichen, wie tief KI bereits in die Erhebung und Beeinflussung von Meinungen eingedrungen ist und welche methodischen Innovationen damit einhergehen.

Die feine Linie zwischen Überzeugung und Manipulation

Während Th34rchitekt in r/technology das Experiment unverblümt als „schicken Begriff für Manipulation durch Desinformation“ einordnet, erinnert Ok-Yogurt2360 in r/ControlProblem daran, dass gesellschaftliche Selbstbeschränkung – wie beim Klonen von Menschen – durchaus möglich ist, wenn auch mühsam. homezlice in r/ControlProblem kontert ironisch, dass ein einfaches Blockieren der KI-Entwicklung angesichts milliardenschwerer Unternehmensinteressen kaum „einfach“ sein dürfte.