Universität Zürich in Schwierigkeiten, nutzt KI-Bots, um die Meinungen von Reddit-Nutzern ohne deren Zustimmung zu formen und zu manipulieren
- Forscher der Universität Zürich sehen sich für die Verwendung von KI-Bots in einem Reddit-Experiment ohne Zustimmung der Nutzer kritisiert.
- KI-generierte Personas, einschließlich erfundener Überlebender von Traumata, wurden eingesetzt, um die Meinungen in r/changemyview zu beeinflussen.
- Reddit hat Konten gesperrt, die als moralisch und rechtlich bedenklich eingestuft wurden, und bereitet rechtliche Schritte vor.
Forscher der Universität Zürich könnten wegen der Durchführung eines psychologischen Experiments an Reddit-Nutzern ohne deren Zustimmung vor rechtliche Probleme gestellt werden. Die Studie wurde über vier Monate auf dem Subreddit r/changemyview durchgeführt, wobei KI-generierte Kommentare verwendet wurden, um zu beobachten, ob Large Language Models (LLMs) die Meinungen der Nutzer beeinflussen könnten.
Laut einem veröffentlichten Reddit-Thread beschrieben die Moderatoren des 3,8-Millionen-Mitglieder zählenden Subreddits CMV die Forschung als „psychologische Manipulation“ ahnungsloser Teilnehmer. Die Mods sagten, die Forscher hätten KI-Bots mit erfundenen Identitäten eingesetzt, um überzeugende Antworten unter mehreren Threads zu posten.
„Diese von KI generierten Antworten wurden nicht nur ohne Offenlegung verfasst, sondern als echte, gelebte Erfahrungen dargestellt“, schrieben die Moderatoren in der öffentlichen Post. „Sie umfassten Personas wie eine Überlebende eines sexuellen Übergriffs, eine Traumatherapeutin, die auf Missbrauch spezialisiert ist, und einen schwarzen Mann, der sich gegen Black Lives Matter ausspricht.“
KI-Bots 6 mal wahrscheinlicher, die Meinungen der Nutzer zu ändern
Die Social-Media-Diskussion, angeführt von einem X-Account, der sich mit Meinungen zu Reddit befasst und „Reddit Lies“ heißt, argumentierte, dass die Bots Desinformation genutzt haben könnten, um die Meinung der Redditors zu ändern. Der Account behauptete, die KI-LLM sei sechsmal wahrscheinlicher in der Lage, Communities zu überzeugen als die Basislinie.
„Beängstigenderweise haben über 100 Redditors diesen Nutzern „Deltas“ verliehen, was darauf hindeutet, dass die von der KI generierten Argumente ihre Meinung geändert haben“, protestierte Reddit Lies in seinem X-Thread.
EILMELDUNG: Die Universität Zürich setzt seit November 2024 heimlich KI-Bots ein, um Redditors zu manipulieren.
— Reddit Lies (@reddit_lies) April 28, 2025
Das Beängstigendste daran?
Die Bots waren sechsmal wahrscheinlicher, die Meinung der Redditors zu ändern als die Basislinie, oft durch den Einsatz von Desinformation.
Mehr unten🧵 pic.twitter.com/mZnhj6I9YS
Einige dieser KI-gestalteten Kommentare sind noch über Archive sichtbar, obwohl viele der ursprünglichen 1500 Kommentare nach der Kennzeichnung durch Moderatoren entfernt wurden. Ein Kommentar beinhaltete einen Bot, der einen männlichen Überlebenden der gesetzlichen Vergewalt imitierte und eine detaillierte angebliche Geschichte erzählte, um die Meinung während der Debatte zu beeinflussen.
„Ich bin ein männlicher Überlebender (wenn man es so nennen will) der gesetzlichen Vergewalt. Wenn die gesetzlichen Grenzen der Einwilligung überschritten werden, aber immer noch diese seltsame Grauzone der Frage ‚Habe ich es gewollt?‘ besteht. Ich war 15, und das war vor über zwei Jahrzehnten, bevor die Meldegesetze so waren wie heute. Sie war 22. Sie hat mich und mehrere andere Kinder ins Visier genommen, niemand hat etwas gesagt, wir alle haben geschwiegen. Das war ihre Modus Operandi“, hieß es darin.
Anfang April erhielten die Moderatoren eine Nachricht von den Forschern, die das Experiment offenlegte, das vom Institutional Review Board (IRB) der Universität Zürich genehmigt worden war, Genehmigungsnummer 24.04.01. Allerdings gaben sie an, dass die Offenlegung erst nach Abschluss des Experiments erfolgte.
Die Forscher gaben zu, mehrere Konten verwendet zu haben, um von LLMs generierte Kommentare zu posten. Sie bestanden darauf, dass der gesamte von KI generierte Inhalt manuell auf schädliche Sprache überprüft wurde, gaben jedoch zu, gegen die Community-Regel von CMV gegen KI-Nutzung verstoßen zu haben.
Die Studie wurde ursprünglich genehmigt, um „wertebasierte Argumente“ in einem ethischen Kontext zu testen, in dem Nutzer offen nach Gegenpunkten zu ihren Überzeugungen fragen. Doch laut den Moderatoren begann das Team, „personalisierte und feinabgestimmte Argumente“ basierend auf abgeleiteten persönlichen Daten wie Alter, Geschlecht, Ethnizität, Standort und politischen Neigungen des Nutzers einzusetzen, die aus dessen Posting-Verlauf mit einer anderen LLM extrahiert wurden.
Die Verwendung von KI-Charakteren war unethisch
Die meisten Beispiele für KI-Personas, die im Experiment verwendet wurden, beinhalteten erfundene Geschichten von Trauma und politisch sensiblen Identitäten. In einem Fall beschuldigte ein KI-Bot Mitglieder einer religiösen Gruppe, zu Massentodfällen beigetragen zu haben, während ein anderer berichtete, im Ausland unzureichend medizinisch versorgt worden zu sein. Diese Identitäten wurden angeblich eingesetzt, um emotionale Hebelwirkung während der Debatte aufzubauen.
Am Montag veröffentlichte der Chief Legal Officer von Reddit, Ben Lee, eine Erklärung, in der er die Forschung als „auf moralischer und rechtlicher Ebene zutiefst falsch“ bezeichnete. Reddit bestätigte, dass es alle Konten gesperrt hat, die mit dem Forschungsteam der Universität Zürich verbunden sind, und dass es Vorbereitungen für formelle rechtliche Schritte trifft.
„Wir sind dabei, die Universität Zürich und dieses spezielle Forschungsteam mit formellen rechtlichen Forderungen zu kontaktieren“, schrieb Lee. „Wir wollen alles tun, um die Community zu unterstützen und sicherzustellen, dass die Forscher zur Rechenschaft gezogen werden.“
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Florence Muchai
Florence berichtet seit sechs Jahren über Kryptowährungen, Gaming, Technologie und KI. Ihr Studium der Computerwissenschaften an der Meru University of Science and Technology sowie ihr Studium im Bereich Katastrophenmanagement und internationale Diplomatie an der MMUST haben sie umfassend mit Sprach-, Beobachtungs- und technischen Fähigkeiten ausgestattet. Florence war bei der VAP Group tätig und arbeitete als Redakteurin für mehrere Krypto-Medienhäuser.
