L'Università di Zurigo nei guai, usa bot AI per plasmare e manipolare la mente degli utenti di Reddit senza consenso

I ricercatori dell'Università di Zurigo potrebbero affrontare problemi legali per aver condotto un esperimento psicologico sugli utenti di Reddit senza il loro consenso. Lo studio è stato condotto per quattro mesi sul subreddit r/changemyview, utilizzando commenti generati dall'intelligenza artificiale per osservare se i modelli linguistici di grandi dimensioni (LLM) potessero influenzare le opinioni degli utenti. 

Secondo un thread su Reddit pubblicato, i moderatori del subreddit CMV da 3,8 milioni di membri hanno descritto la ricerca come “manipolazione psicologica” di partecipanti ignari. I moderatori hanno affermato che i ricercatori hanno schierato bot AI con identità false per pubblicare risposte persuasive sotto diversi thread.

“Queste risposte generate dall'IA non solo sono state create senza divulgazione, ma sono state presentate come esperienze reali e vissute”, hanno scritto i moderatori nel post pubblico. “Includevano personaggi come una sopravvissuta a uno stupro, un consulente per il trauma specializzato in abusi e un uomo nero contrario a Black Lives Matter.”

I bot AI 6 volte più probabili a cambiare le opinioni degli utenti

Le chiacchiere sui social media, guidate da un account X dedicato alla discussione di opinioni su Reddit e chiamato ‘Reddit Lies’, sostenevano che i bot potessero aver usato disinformazione per cambiare idea ai Redditors. L'account affermava che l'LLM dell'IA aveva sei volte più probabilità di convincere le comunità rispetto alla linea di base.

“Terroristicamente, oltre 100 Redditors hanno assegnato ‘deltas’ a questi utenti, suggerendo che gli argomenti generati dall'IA hanno cambiato la loro opinione”, ha protestato Reddit Lies nel suo thread su X.

ULTIM'ORA: L'Università di Zurigo ha utilizzato bot AI per manipolare segretamente i Redditors da novembre 2024.

La parte più spaventosa?
I bot avevano 6 volte più probabilità di cambiare idea ai Redditors rispetto alla linea di base, spesso sfruttando la disinformazione.

Altro qui🧵 pic.twitter.com/mZnhj6I9YS

— Reddit Lies (@reddit_lies) Aprile 28, 2025

Alcuni di questi commenti confezionati dall'IA sono ancora visibili attraverso gli archivi, sebbene molti dei 1500 commenti iniziali siano stati rimossi dopo essere stati segnalati dai moderatori. Un commento presentava un bot che impersonava un sopravvissuto maschio a uno stupro legale, raccontando una storia dettagliata e presunta per influenzare l'opinione durante il dibattito.

“Sono un sopravvissuto maschio di (disponibile a chiamarlo) stupro legale. Quando le linee legali del consenso vengono violate ma c'è ancora quella strana zona grigia di ‘volevo davvero farlo?’ Avevo 15 anni e questo è successo oltre due decenni fa, prima che le leggi sulla segnalazione fossero come sono oggi. Lei aveva 22 anni. Mi ha preso di mira, me e altri bambini, nessuno ha detto nulla, siamo stati tutti zitti. Questo era il suo metodo”, ha dichiarato.

All'inizio di aprile, i moderatori hanno ricevuto un messaggio dai ricercatori che divulgava l'esperimento, che era stato approvato dal Comitato Etico Istituzionale (IRB) dell'Università di Zurigo, numero di approvazione 24.04.01. Tuttavia, hanno sottolineato che la divulgazione è arrivata dopo il completamento dell'esperimento.

I ricercatori hanno ammesso di aver utilizzato più account per pubblicare commenti generati da LLM. Hanno insistito sul fatto che tutto il contenuto generato dall'IA fosse stato revisionato manualmente per il linguaggio dannoso, ma hanno ammesso di aver violato la regola della comunità di CMV contro l'uso dell'IA.

Lo studio era stato inizialmente approvato per testare “argomenti basati sui valori” in un contesto etico in cui gli utenti richiedevano apertamente controargomenti alle loro convinzioni. Tuttavia, secondo i moderatori, il team ha iniziato a distribuire “argomenti personalizzati e affinati” basati su dati personali inferiti, come l'età, il genere, l'etnia, la posizione e le inclinazioni politiche di un utente, recuperati dalla loro cronologia di pubblicazione utilizzando un altro LLM.

L'uso di personaggi AI era non etico

La maggior parte degli esempi di persone AI utilizzate nell'esperimento includeva storie inventate di traumi e identità politicamente sensibili. In un caso, un bot AI ha accusato membri di un gruppo religioso di contribuire a morti di massa, mentre un altro ha raccontato di aver ricevuto cure mediche inadeguate all'estero. Queste identità sarebbero state presumibilmente schierate per costruire leva emotiva durante il dibattito.

Lunedì, il Chief Legal Officer di Reddit, Ben Lee, ha emesso una dichiarazione definendo la ricerca “profondamente sbagliata sia a livello morale che legale”. Reddit ha confermato di aver bannato tutti gli account associati al team di ricerca dell'Università di Zurigo e di stare preparando un'azione legale formale.

“Ci stiamo rivolgendo all'Università di Zurigo e a questo specifico team di ricerca con richieste legali formali”, ha scritto Lee. “Vogliamo fare tutto il possibile per supportare la comunità e assicurarci che i ricercatori siano tenuti responsabili.”