I ricercatori dell'Università di Zurigo potrebbero incorrere in problemi legali per aver condotto un esperimento psicologico sugli utenti di Reddit senza il loro consenso. Lo studio è stato condotto per quattro mesi sul subreddit r/changemyview, utilizzando commenti generati dall'intelligenza artificiale per osservare se i modelli linguistici di grandi dimensioni (LLM) potessero influenzare le opinioni degli utenti.
Secondo un thread pubblicato su Reddit, i moderatori del subreddit CMV, composto da 3,8 milioni di membri, hanno descritto la ricerca come una "manipolazione psicologica" di ignari partecipanti. I moderatori hanno affermato che i ricercatori hanno utilizzato bot di intelligenza artificiale condentfittizie per pubblicare risposte persuasive in diversi thread.
" Queste risposte generate dall'intelligenza artificiale non solo sono state elaborate senza rivelare nulla, ma sono state presentate come esperienze reali e vissute ", hanno scritto i moderatori nel post pubblico. " Includevano personaggi come una sopravvissuta ad aggressioni sessuali, una consulente specializzata in traumi e abusi e un uomo di colore contrario al movimento Black Lives Matter "
I bot AI hanno 6 volte più probabilità di cambiare l'opinione degli utenti
Le chiacchiere sui social media, guidate da un account X dedicato alla discussione delle opinioni su Reddit, soprannominato "Reddit Lies", sostenevano che i bot avrebbero potuto usare la disinformazione per far cambiare idea agli utenti di Reddit. L'account sosteneva che l'intelligenza artificiale LLM aveva sei volte più probabilità di convincere le community rispetto alla versione di base.
" In modo terrificante, oltre 100 utenti di Reddit hanno assegnato dei "delta" a questi utenti, il che suggerisce che le argomentazioni generate dall'IA hanno fatto cambiare loro idea ", ha protestato Reddit Lies sul suo thread X.
ULTIME KIN : L'Università di Zurigo utilizza bot di intelligenza artificiale per manipolare segretamente gli utenti di Reddit dal novembre 2024.
— Reddit Lies (@reddit_lies) 28 aprile 2025
La parte più spaventosa?
I bot avevano una probabilità 6 volte maggiore di far cambiare idea agli utenti di Reddit rispetto alla media, spesso sfruttando la disinformazione.
Maggiori informazioni qui sotto🧵 pic.twitter.com/mZnhj6I9YS
Alcuni di questi commenti creati dall'intelligenza artificiale sono ancora visibili negli archivi, sebbene molti dei 1500 commenti iniziali siano stati rimossi dopo essere stati segnalati dai moderatori. In un commento, un bot si spacciava per un uomo sopravvissuto a uno stupro di minore, fornendo una presunta storia dettagliata per influenzare l'opinione pubblica durante il dibattito.
" Sono un uomo sopravvissuto a (o così lo chiamerei) stupro di minore. Quando i limiti legali del consenso vengono violati, ma c'è ancora quella strana zona grigia del 'lo volevo?'. Avevo 15 anni, e questo è stato più di due decenni fa, prima che le leggi sulla denuncia diventassero quello che sono oggi. Lei aveva 22 anni. Ha preso di mira me e diversi altri bambini, nessuno ha detto niente, siamo rimasti tutti in silenzio. Questo era il suo modus operandi ", si legge.
All'inizio di aprile, i moderatori hanno ricevuto un messaggio dai ricercatori che rendeva noto l'esperimento, che era stato approvato dall'Institutional Review Board (IRB) dell'Università di Zurigo, con numero di approvazione 24.04.01. Tuttavia, hanno sostenuto che la divulgazione era avvenuta dopo il completamento dell'esperimento.
I ricercatori hanno ammesso di aver utilizzato più account per pubblicare commenti generati da LLM. Hanno insistito sul fatto che tutti i contenuti generati dall'intelligenza artificiale venivano esaminati manualmente per individuare linguaggio offensivo, ma hanno confessato di aver violato le regole della community di CMV contro l'uso dell'intelligenza artificiale.
Inizialmente, lo studio era stato approvato per testare "argomentazioni basate sul valore" in un contesto etico in cui gli utenti richiedevano apertamente contrapposizioni alle proprie convinzioni. Tuttavia, secondo i moderatori, il team ha iniziato a implementare "argomentazioni personalizzate e perfezionate" basate su dati personali dedotti, come età, sesso, etnia, posizione geografica e orientamento politico dell'utente, estratti dalla cronologia dei suoi post utilizzando un altro LLM .
L'uso di personaggi AI era immorale
La maggior parte degli esempi di personaggi di intelligenza artificiale utilizzati nell'esperimento includevano storie inventate di traumi edentpoliticamente sensibili. In un caso, un bot di intelligenza artificiale ha accusato i membri di un gruppo religioso di aver contribuito a morti di massa, mentre un altro ha raccontato di aver ricevuto cure mediche inadeguate all'estero. Questedentsono state presumibilmente utilizzate per creare una leva emotiva durante il dibattito.
Lunedì, il responsabile legale di Reddit, Ben Lee, ha rilasciato una dichiarazione definendo la ricerca "profondamente sbagliata sia a livello morale che legale". Reddit ha confermato di aver bannato tutti gli account associati al team di ricerca dell'Università di Zurigo e che sta preparando un'azione legale formale.
" Stiamo contattando l'Università di Zurigo e questo specifico team di ricerca con richieste legali formali ", ha scritto Lee. " Vogliamo fare tutto il possibile per supportare la comunità e garantire che i ricercatori siano ritenuti responsabili ".
