Während der Übernahme von Twitter durch Elon Musk nahm die Verbreitung von Falschinformationen zum Ukrainekrieg deutlich zu. Eine Studie des ZEW Mannheim zeigt, wie stark sich die Desinformation auf wenige Accounts konzentrierte: 0,08 Prozent waren für fast ein Drittel der entsprechenden Beiträge verantwortlich. Für ihre Untersuchung werteten Forschende des ZEW Mannheim mit der Erasmus-Universität Rotterdam und der Universität Mannheim rund 1,9 Millionen englischsprachige Tweets sowie 6,5 Millionen Retweets aus.
Die Beiträge stammen aus dem Zeitraum von Ende März bis Mitte Mai 2023 und beschäftigen sich mit dem Ukrainekrieg. Besonders auffällig war die Entwicklung während des Umbaus von Twitter zu X. Im April 2023 hob die Plattform Einschränkungen für Accounts staatlich finanzierter Medien auf und änderte die Kennzeichnung von Quellen. Zwischen dem 6. und 8. April registrierten die Forschenden die stärkste Welle an Desinformation im untersuchten Zeitraum.
"Heute" auf Google als bevorzugte Quelle festlegen
1,9 Millionen Tweets ausgewertet: Die Zusammensetzung der Narrative.
ZEW Mannheim
Wenige Accounts verbreiteten besonders viele Falschmeldungen
Die Analyse zeigt eine starke Konzentration: Lediglich 0,08 Prozent der untersuchten Accounts waren für rund 30 Prozent der weiterverbreiteten Beiträge mit moderater bis schwerer Desinformation verantwortlich. Die Accounts waren zudem eng miteinander vernetzt und bildeten Gruppen, die sich deutlich vom restlichen Netzwerk unterschieden.
Auch bei der Erstellung neuer Accounts gab es auffällige Spitzen. Am 28. Oktober 2022, dem Tag der offiziellen Übernahme von Twitter durch Elon Musk, wurden laut Studie mehr als 2.400 Accounts erstellt, die später Desinformation verbreiteten. Das war nahezu 60-mal so viel wie im durchschnittlichen Tagesvergleich. Weitere Häufungen stellten die Forschenden während der Entlassungswellen bei X fest.
Avatar im Dessous: Elon Musk provoziert mit Sex-Chatbot auf Grok
?
Die Studie fand unter anderem pro-russische Erzählmuster wie die Delegitimierung der Ukraine oder eine Umkehr von Täter- und Opferrollen. Die Forschenden sehen einen Zusammenhang zwischen den Veränderungen der Plattformregeln und der stärkeren Verbreitung solcher Inhalte. Ein kausaler Nachweis, dass die Änderungen allein den Anstieg ausgelöst haben, ist damit allerdings nicht erbracht.
Forschende warnen vor Folgen für KI
Die Verbreitung von Falschinformationen könnte auch Auswirkungen auf künstliche Intelligenz haben. Große Sprachmodelle werden mit umfangreichen Textmengen aus dem Internet trainiert. Gelangen Desinformationsinhalte in solche Datensätze, könnten KI-Systeme falsche Behauptungen später als Fakten wiedergeben oder weiterverbreiten.
Für die Auswertung setzten die Forschenden ein lokal betriebenes Sprachmodell ein, das die Tweets nach dem Schweregrad möglicher Desinformation und zwölf pro-russischen Narrativen einordnete. Die Ergebnisse wurden mit manuellen Bewertungen von drei unabhängigen Fachleuten verglichen.
Die Untersuchung bezieht sich ausschließlich auf englischsprachige Beiträge zum Ukrainekrieg im Frühjahr 2023. Sie liefert damit einen Einblick in die damalige Entwicklung auf Twitter beziehungsweise X, erlaubt aber keine unmittelbaren Rückschlüsse auf das heutige Ausmaß der Desinformation auf der Plattform.
