Zweistufiges KI-Framework erkennt konspiratorische Diskurse in Telegram-Gruppen

Zweistufiges Framework zur Erkennung konspiratorischer Inhalte

Ein Forschungsteam hat ein zweistufiges Framework entwickelt, um konspiratorische Diskurse in alltäglichen Gesprächen auf Telegram zu analysieren. In der ersten Stufe wird ein auf RoBERTa-large basierender Klassifikator eingesetzt, der konspiratorische Beiträge in Telegram-Gruppen aus Singapur identifiziert. Der Klassifikator wurde mit annotierten Daten trainiert, um zwischen konspiratorischen und nicht-konspiratorischen Nachrichten zu unterscheiden. So filtert er gezielt diejenigen Posts aus dem Datenmaterial, die verschwörungstheoretische Inhalte aufweisen. Die Forscher betonen, dass konspiratorische Diskurse häufig in alltägliche Unterhaltungen eingebettet sind und nicht nur in isolierten Echokammern auftreten. Die identifizierten Beiträge werden gesammelt und an die zweite Stufe des Frameworks übergeben. Diese Trennung ermöglicht es, die nachgelagerte Analyse auf die bereits erkannten konspiratorischen Inhalte zu fokussieren.

SB-GNN modelliert Glaubensstrukturen und Themen

Im zweiten Schritt kommt ein Signed Belief Graph Neural Network (SB-GNN) zum Einsatz, das die Glaubensstrukturen und Themen innerhalb der identifizierten konspiratorischen Beiträge modelliert. Das SB-GNN verarbeitet die zuvor klassifizierten Posts und extrahiert daraus die zugrundeliegenden Überzeugungssysteme sowie die diskutierten Themen. Durch diese spezialisierte Modellierung wird die thematische Organisation der konspiratorischen Inhalte sichtbar. Das zweistufige Vorgehen – Klassifikation gefolgt von einer auf Glaubensstrukturen ausgerichteten Themenmodellierung – erlaubt es, die Struktur konspiratorischer Diskurse in alltäglichen Chats gezielt zu erfassen. Die Forscher wendeten das Framework auf Telegram-Daten aus Singapur an, um zu untersuchen, wie sich verschiedene Verschwörungsthemen in normalen Gesprächen organisieren.