Die Universität Zürich gerät in Schwierigkeiten, weil sie KI-Bots einsetzt, um die Gedanken von Reddit-Nutzern ohne deren Zustimmung zu formen und zu manipulieren

Forschern der Universität Zürich drohen rechtliche Konsequenzen, weil sie ohne Einwilligung der Nutzer ein psychologisches Experiment mit Reddit-Nutzern durchgeführt haben. Die Studie erstreckte sich über vier Monate und lief im Subreddit r/changemyview. Dabei wurden KI-generierte Kommentare verwendet, um zu untersuchen, ob große Sprachmodelle (LLMs) die Meinungen der Nutzer beeinflussen können. 

Laut einem Reddit-Thread bezeichneten Moderatoren des 3,8 Millionen Mitglieder starken Subreddits CMV die Studie als „psychologische Manipulation“ ahnungsloser Teilnehmer. Die Moderatoren gaben an, die Forscher hätten KI-Bots mit gefälschtendenteingesetzt, um in mehreren Threads überzeugende Antworten zu posten.

„Diese KI-generierten Antworten wurden nicht nur ohne Offenlegung erstellt, sondern auch als reale, gelebte Erfahrungen präsentiert“, schrieben die Moderatoren in dem öffentlichen Beitrag. „Sieenthielten Profile wie das einer Überlebenden sexueller Gewalt, einer auf Missbrauch spezialisierten Traumatherapeutin und eines schwarzen Mannes, der sich gegen Black Lives Matter ausspricht.“

KI-Bots ändern die Meinung von Nutzern sechsmal häufiger

In den sozialen Medien, insbesondere auf dem Reddit-Account „Reddit Lies“, wurde diskutiert, ob Bots Fehlinformationen eingesetzt haben könnten, um die Meinung von Redditors zu beeinflussen. Der Account behauptete, die KI LLM habe eine sechsmal höhere Wahrscheinlichkeit, Communities zu überzeugen, als die Vergleichsgruppe.

„Erschreckenderweise haben über 100 Redditors diesen Nutzern „Deltas“ verliehen, was darauf hindeutet, dass die von der KI generierten Argumente ihre Meinung geändert haben“, protestierte Reddit Lies in seinem X-Thread.

EilmeldungKIN: Die Universität Zürich manipuliert Reddit-Nutzer seit November 2024 heimlich mithilfe von KI-Bots.

Schlimmste daran?
Die Bots konnten die Meinung der Reddit-Nutzer sechsmal häufiger beeinflussen als der Durchschnitt, oft durch die Verbreitung von Fehlinformationen.

Mehr dazu unten 🧵 pic.twitter.com/mZnhj6I9YS

— Reddit Lies (@reddit_lies) 28. April 2025

Einige dieser KI-generierten Kommentare sind noch immer in den Archiven einsehbar, obwohl viele der ursprünglich 1500 Kommentare nach Meldungen durch Moderatoren entfernt wurden. In einem Kommentar gab sich ein Bot als männliches Opfer von Vergewaltigung aus und erzählte eine detaillierte, angebliche Geschichte, um die öffentliche Meinung in der Debatte zu beeinflussen.

„Ich bin ein männliches Opfer von (ich möchte es so nennen) sexueller Nötigung. Wenn die rechtlichen Grenzen der Einwilligung überschritten werden, aber immer noch diese seltsame Grauzone besteht, in der man sich fragt: ‚Wollte ich das wirklich?‘ Ich war 15, und das war vor über zwanzig Jahren, bevor die Gesetze zur Anzeigepflicht so streng waren wie heute. Sie war 22. Sie hatte es auf mich und einige andere Kinder abgesehen, niemand sagte etwas, wir schwiegen alle. Das war ihre Vorgehensweise“, hieß es.

Anfang April erhielten die Moderatoren eine Nachricht der Forscher, in der diese das Experiment offenlegten, das von der Ethikkommission der Universität Zürich unter der Genehmigungsnummer 24.04.01 genehmigt worden war. Sie behaupteten jedoch, die Offenlegung sei erst nach Abschluss des Experiments erfolgt.

Die Forscher gaben zu, mehrere Konten verwendet zu haben, um von LLMs generierte Kommentare zu veröffentlichen. Sie beteuerten, dass alle KI-generierten Inhalte manuell auf schädliche Sprache überprüft wurden, räumten aber ein, gegen die Community-Regel von CMV bezüglich der Nutzung von KI verstoßen zu haben.

Die Studie wurde ursprünglich genehmigt, um „wertbasierte Argumente“ in einem ethischen Kontext zu testen, in dem Nutzer offen nach Gegenargumenten zu ihren Überzeugungen fragen. Laut den Moderatoren begann das Team jedoch, „personalisierte und feinabgestimmte Argumente“ einzusetzen, die auf abgeleiteten persönlichen Daten wie Alter, Geschlecht, ethnischer Zugehörigkeit, Standort und politischer Orientierung der Nutzer basierten und mithilfe eines anderen LLM.

Der Einsatz von KI-Charakteren war unethisch

Die meisten im Experiment verwendeten KI-Personas enthielten erfundene Traumata und politisch brisantedent. In einem Fall beschuldigte ein KI-Bot Mitglieder einer Religionsgemeinschaft, zu Massensterben beigetragen zu haben, während ein anderer von unzureichender medizinischer Versorgung im Ausland berichtete. Diesedentwurden angeblich eingesetzt, um in Debatten emotionalen Druck auszuüben.

Am Montag veröffentlichte Reddit-Rechtschef Ben Lee eine Erklärung, in der er die Forschung als „sowohl moralisch als auch rechtlich zutiefst verwerflich“ bezeichnete. Reddit bestätigte, alle mit dem Forschungsteam der Universität Zürich verbundenen Konten gesperrt zu haben und formelle rechtliche Schritte vorzubereiten.

„Wir sind dabei, die Universität Zürich und das betreffende Forschungsteam mit formellen rechtlichen Forderungen zu kontaktieren“, schrieb Lee. „Wir wollen alles in unserer Macht Stehende tun, um die wissenschaftliche Gemeinschaft zu unterstützen und sicherzustellen, dass die Forscher zur Rechenschaft gezogen werden.“