KI SpotlightNewsSamsung-Studie belegt systematische Ghost-Autoren in KI-Texten
Preprint identifiziert modellspezifische Namens-Ensembles und 1.655 gefälschte Zenodo-Datensätze mit echten DOIs
Mit KI erstellt◆ Fakten auf einen Blick
- Das Preprint 'The Ghost Couple: Correlated LLM Name Priors and Their Haunting of the Web and Academic Publishing' stammt von Samsung und der Universität Warschau.
- Die Studie zeigt, dass LLMs nicht nur einzelne hochwahrscheinliche Namen erzeugen, sondern korrelierte Namens-Ensembles: Claude produziert Elena Vasquez + Marcus Chen + Amara Okafor, Gemini Aris Thorne + Lena Petrova, GPT Elara Voss ohne festen Partner.
- Die Namens-Priors sind modellfamilien- und versionsspezifisch und werden an Modell-Release-Grenzen aktiv unterdrückt, was datierbare Verhaltens-Fingerabdrücke hinterlässt.
- Auf Zenodo, einem von CERN betriebenen Repositorium, identifiziert die Studie 1.655 Ghost-Author-Datensätze, die nicht existierende Zeitschriften und gefälschte Publikationsdaten angeben; 991 Datensätze wurden in einem einzigen Monat registriert, und die Datensätze tragen echte DataCite-DOIs.
- Die Ghost-Namen erscheinen zudem auf ResearchGate und bilden dort synthetische Forschungsgruppen.
- Laut 404 Media haben die Namen Hunderte KI-generierter akademischer Papiere, Artikel und Bücher mitverfasst.
Samsung-Studie belegt systematische Ghost-Autoren in KI-Texten
Das Preprint „The Ghost Couple: Correlated LLM Name Priors and Their Haunting of the Web and Academic Publishing“ von Samsung und der Universität Warschau zeigt, dass große Sprachmodelle nicht nur einzelne hochwahrscheinliche Namen erzeugen, sondern korrelierte Namens-Ensembles. Diese sind modellfamilien- und versionsspezifisch: Claude produziert demnach Elena Vasquez, Marcus Chen und Amara Okafor gemeinsam, Gemini Aris Thorne und Lena Petrova, GPT Elara Voss ohne festen Partner. Die Ko-Auftrittsraten der Namen liegen weit über dem Zufall und sind über unabhängige Generierungen hinweg konsistent. Laut dem Preprint haben diese Namen Hunderte KI-generierter akademischer Papiere, Artikel und Bücher mitverfasst, obwohl die Personen nie existiert haben; Elena Vasquez und Marcus Chen tauchten demnach als Vulkanexperten, Astronauten, Thriller-Protagonisten, Podcast-Moderatoren und akademische Co-Autoren auf.
Die Forscher erklären, dass die Modelle bei der Generierung fiktiver Experten nicht unabhängig Namen ziehen, sondern auf gelernte Namens-Priors zurückgreifen, die bestimmte Namen miteinander koppeln. Die Namens-Priors werden an Modell-Release-Grenzen aktiv unterdrückt: Bei neuen Modellversionen reduzieren die Entwickler gezielt die Wahrscheinlichkeiten für diese spezifischen Namen, was zu datierbaren Verhaltensänderungen führt und so Fingerabdrücke im erzeugten Inhalt hinterlässt. Gegenüber früheren Berichten über einzelne Namen liefert die Arbeit damit eine systematische, versionsspezifische Analyse.
655 gefälschte Zenodo-Datensätze mit echten DOIs
Auf Zenodo, dem von CERN betriebenen Repositorium, identifiziert die Studie 1.655 Ghost-Author-Datensätze. Diese geben nicht existierende Zeitschriften und gefälschte Publikationsdaten an; 991 Datensätze wurden in einem einzigen Monat registriert. Die Datensätze tragen echte DataCite-DOIs, was sie für wissenschaftliche Aggregatoren abrufbar macht. Server-seitige DataCite-Zeitstempel belegen laut Studie eine absichtliche Rückdatierung. Zudem erscheinen die Ghost-Namen auf ResearchGate und bilden dort synthetische Forschungsgruppen.
Die echten DOIs sorgen dafür, dass die gefälschten Einträge in der wissenschaftlichen Infrastruktur verankert sind. Die Studie liefert damit einen quantitativen Beleg für ein Problem, das über einzelne Namensnennungen hinausgeht und die Integrität von Repositorien betrifft.
