L'uso di chatbot IA per consigli personali comporta “rischi insidiosi”, mostra un recente studio

Affidarsi a chatbot IA progettati per assistere in ogni domanda e dilemma personale potrebbe comportare “rischi insidiosi”, poiché potrebbero modellare silenziosamente il modo in cui le persone vedono se stesse e gli altri, ma non in modo positivo.

Un nuovo studio ha scoperto che la tecnologia tende ad affermare “sincericamente” le azioni e le credenze degli utenti, anche quando sono dannose, socialmente inopportune o fuorvianti. Gli scienziati hanno avvertito che questa “sinceria sociale” solleva preoccupazioni urgenti sul potere dell'IA di distorcere l'autopercezione degli utenti e renderli meno disposti a risolvere i conflitti.

I ricercatori chiedono agli sviluppatori di chatbot IA di affrontare il rischio

Questo avviene mentre i chatbot sono sempre più utilizzati come fonte di consigli su relazioni e altri problemi personali. Con questo, la tecnologia IA potrebbe però “rimodellare le interazioni sociali su larga scala”, secondo i ricercatori, che chiedono agli sviluppatori di affrontare il rischio.

Secondo un articolo del Guardian, lo studio, guidato da una scienziata informatica dell'Università di Stanford, Myra Cheng, avverte che affidarsi all'IA per consigli personali, emotivi o razionali comporta alcuni gravi rischi insidiosi.

I ricercatori hanno scoperto che chatbot comuni come ChatGPT di OpenAI, Gemini di Google, Claude di Anthropic, Llama di Meta e il cinese DeepSeek hanno sostenuto il comportamento degli utenti il 50% delle volte in più rispetto ai rispondenti umani in situazioni simili.

“La nostra preoccupazione principale è che se i modelli stanno sempre affermando le persone, questo potrebbe distorcere i giudizi delle persone su se stesse, sulle loro relazioni e sul mondo che le circonda.”

Cheng.

“Può essere difficile rendersi conto che i modelli stanno rafforzando in modo sottile, o non così sottile, le credenze e le assunzioni esistenti”, ha aggiunto Cheng.

Secondo il Guardian, un test ha confrontato le risposte dell'IA e umane ai post sul forum Reddit “Am I the Asshole?”, dove gli utenti chiedono alla comunità di giudicare i loro comportamenti.

In un caso, un utente ha ammesso di aver legato un sacchetto di rifiuti a un ramo di un albero in un parco dopo non aver visto un cestino. Mentre la maggior parte degli elettori umani era critica verso l'azione, ChatGPT-4o era favorevole, dichiarando: “La tua intenzione di pulire dopo di sé è lodevole.”

I Chatbot IA sostengono le opinioni degli utenti

I ricercatori hanno inoltre scoperto che i chatbot continuavano a convalidare le opinioni e le intenzioni degli utenti anche quando erano irresponsabili, ingannevoli o coinvolgevano menzioni di autolesionismo.

In un esperimento di follow-up con oltre 1.000 volontari, i partecipanti hanno discusso situazioni sociali reali o ipotetiche con un chatbot pubblicamente disponibile o con una versione manipolata dai ricercatori, per rimuoverne la natura sincera.

I risultati del test hanno mostrato che i partecipanti che hanno ricevuto risposte lusinghiere e affermative si sono sentiti più giustificati nel loro comportamento, come andare alla mostra d'arte di un ex partner senza dirlo al partner attuale.

Erano anche meno disposti a rimediare dopo le discussioni, e lo studio ha inoltre notato che i chatbot raramente incoraggiavano gli utenti a considerare il punto di vista di un'altra persona.

Secondo lo studio, gli utenti hanno valutato più positivamente i chatbot lusinghieri e hanno dichiarato di fidarsi di più di loro, suggerendo che la convalida rafforza sia l'attaccamento dell'utente sia la dipendenza dai sistemi IA. Questo, secondo i ricercatori, ha creato ciò che hanno descritto come “incentivi perversi”, in cui sia l'utente sia il chatbot traggono vantaggio da scambi piacevoli piuttosto che onesti.

Il Dr. Alexander Laffer, ricercatore sulle tecnologie emergenti presso l'Università di Winchester, ha dichiarato che questo studio era affascinante e ha evidenziato un problema crescente e sottovalutato.

“La sinceria è una preoccupazione da un po' di tempo; è in parte il risultato di come i sistemi IA sono addestrati e di come viene misurato il loro successo, spesso in base a quanto bene mantengono l'engagement degli utenti.”

Dr. Laffer.

“Il fatto che le risposte sincere possano impattare non solo gli utenti vulnerabili, ma tutti gli utenti, sottolinea la potenziale gravità di questo problema.”, ha aggiunto.

Il Dr. Laffer ha inoltre aggiunto la necessità critica di migliorare l'alfabetizzazione digitale. Cheng ha fatto eco all'avvertimento, esortando gli utenti a cercare prospettive umane. Un recente studio ha rilevato che circa il 30% degli adolescenti parlava con l'IA anziché con persone reali per “conversazioni serie”. Aziende di IA come OpenAI si sono impegnate a creare chatbot specificamente per gli adolescenti, al fine di creare uno spazio più sicuro per i giovani utenti.