KI SpotlightNewsStanford-Studie: X' For-You-Algorithmus verwechselt Empörung mit Interesse
Stanford-Forscher finden Fehlausrichtung im Feed; EU-Kommission prüft Empfehlungssysteme von X.
Mit KI erstellt◆ Fakten auf einen Blick
- Eine neue Stanford-geführte Studie untersucht den 'For You'-Feed von X und findet eine grundlegende Wertabweichung zwischen Inhalten und den erklärten persönlichen Werten der Nutzer.
- Der Algorithmus misst Engagement (Folgen, Zeit, Reposten, Antworten) und nutzt es als Proxy für Interesse, wodurch Empörung mit Interesse verwechselt wird.
- Die Studie wird als 'Rapt But Wrong' bezeichnet; Erstautor ist Ziv Epstein, Seniorautor Michael Bernstein (Stanford-Professor für Informatik).
- Die EU-Kommission hat X als Very Large Online Platform unter dem DSA designiert und untersucht mögliche Verstöße, einschließlich Risiken durch algorithmische Systeme.
- Die EU-Kommission hat X aufgefordert, interne Dokumente zu Empfehlungssystemen bereitzustellen, eine Aufbewahrungsanordnung erlassen und Zugang zu kommerziellen APIs verlangt.
- Die EU-Kommission hat festgestellt, dass X' blaue Häkchen Nutzer täuschten und das Werbearchiv Transparenzanforderungen nicht erfüllte.
For-You-Algorithmus verwechselt Empörung mit Interesse
Eine neue, von Stanford geleitete Studie untersucht den „For You“-Feed von X und findet eine grundlegende Wertabweichung zwischen den angezeigten Inhalten und den erklärten persönlichen Werten der Nutzer. Der Algorithmus misst dafür Engagement: das Folgen von Konten, die Verweildauer, das Reposten und insbesondere das Antworten auf Beiträge. Diese Messung nutzt er als Stellvertreter für Interesse. Dadurch verwechselt er Empörung mit Interesse und füllt den Feed entsprechend. Je besser der Algorithmus darin wird, das Verhalten zu lesen, desto weiter entfernt er sich demnach von dem, was Nutzer tatsächlich interessiert. Die Studie trägt den Titel „Rapt But Wrong“; Erstautor ist Ziv Epstein, Seniorautor Michael Bernstein, Professor für Informatik an der Stanford University. Nach Angaben der Stanford-Forscher ist Engagement leicht zu messen, weshalb Plattformen es als primäre Metrik zur Bewertung von Nutzerinteresse verwenden.
EU-Kommission untersucht X bereits wegen Empfehlungssystemen
Die EU-Kommission hat X als Very Large Online Platform nach dem Digital Services Act (DSA) eingestuft und untersucht mögliche Verstöße, darunter Risiken durch algorithmische Systeme. Sie forderte X auf, interne Dokumente zu seinen Empfehlungssystemen bis zum 15. Februar 2025 vorzulegen, erließ eine Aufbewahrungsanordnung für den Zeitraum vom 17. Januar 2025 bis 31. Dezember 2025 und verlangte Zugang zu bestimmten kommerziellen APIs. In ihren Feststellungen kam die Kommission zu dem Schluss, dass die blauen Häkchen für verifizierte Konten Nutzer täuschten, weil jeder gegen Bezahlung den Status erhalten konnte, ohne dass X die Identität überprüfte. Auch das Werbearchiv erfüllte die Transparenzanforderungen nicht, etwa durch übermäßige Verzögerungen. Die laufende Untersuchung umfasst Risiken für den zivilgesellschaftlichen Diskurs und Wahlen in der EU, einschließlich Risiken durch die Gestaltung und Funktionsweise algorithmischer Systeme.
