Die Universität Zürich sieht sich auf der Internetplattform Reddit aktuell heftiger Kritik ausgesetzt, nachdem bekannt wurde, dass Forschende dort ein umstrittenes Experiment durchgeführt haben.
Im beliebten Subreddit "Change My View" tauschen sich Nutzer respektvoll über kontroverse Meinungen aus und geben an, wenn sie ihre Sicht durch Argumente geändert haben. Beiträge von KI-Chatbots sind dort ausdrücklich verboten, um echte menschliche Diskussionen zu gewährleisten.
Die Forschenden der Universität Zürich setzten jedoch unerlaubt KI-generierte Kommentare unter Nutzerbeiträge, um deren Meinungen zu beeinflussen.
Dabei gab die KI teilweise falsche Identitäten vor, etwa als traumatisierter Mann oder als dunkelhäutiger Gegner der Black-Lives-Matter-Bewegung, wie die "Neue Zürcher Zeitung" berichtet. In einem Beitrag habe sich die KI als Mann ausgegeben, der als 15-Jähriger von einer 22-Jährigen vergewaltigt worden sei. Die Beiträge wurden inzwischen gelöscht.
Die Studie zielte darauf ab, die Überzeugungskraft von KI-Tools in einer realen Online-Diskussion zu testen. Die personalisierten, also mit vorgetäuschten Identitäten versehenen KI-Kommentare brachten laut den Verantwortlichen deutlich mehr Nutzer zum Umdenken als Antworten von echten Reddit-Usern.
Die Forschenden der Uni Zürich verteidigen sich angesichts der Kritik: Erkenntnisse wie diese seien nur durch ein Feldexperiment möglich, da Laborexperimente die Komplexität nicht abbilden könnten.
Kritiker sehen darin jedoch einen schweren Verstoß gegen ethische Forschungsgrundsätze. Normalerweise müssen Versuchspersonen über Experimente informiert werden und dürfen nicht getäuscht werden – Ausnahmen sind nur bei hohem gesellschaftlichem Nutzen und geringem Risiko erlaubt.
Die Reddit-Administratoren und Experten wie der Jurist Martin Steiger verurteilen das Vorgehen als unethisch und fordern, die Studie nicht zu veröffentlichen. Am Dienstagnachmittag hat die Uni Zürich mitgeteilt: "Die Forschenden haben sich auf eigene Initiative entschieden, die Forschungsergebnisse nicht zu publizieren."
