ChatGPT riceve una denuncia per la privacy a causa di allucinazioni diffamatorie

Il chatbot di OpenAI, ChatGPT, è sotto indagine in Europa per denunce sulla privacy. Ha mostrato una tendenza a hallucinare informazioni false. Pericoloso, no? Questo potrebbe essere difficile da ignorare per i regolatori.

Una persona in Norvegia sta ricevendo aiuto dal Centro Europeo per i Diritti Digitali, Noyb, dopo aver trovato ChatGPT che restituiva informazioni false. Il chatbot ha detto che era stato dichiarato colpevole di aver ucciso due dei suoi figli e di aver cercato di ucciderne un terzo. Queste informazioni potrebbero ripercuotersi su di lui in seguito.

La parte folle è che OpenAI non dà alle persone un modo per correggere le informazioni sbagliate che l'AI inventa su di loro. Invece, OpenAI offre di bloccare le risposte a questo tipo di domande. La domanda principale è se le informazioni vengono scartate o potrebbero essere generate in seguito.

D'altra parte, il Regolamento Generale sulla Protezione dei Dati (GDPR) dell'Unione Europea dà alle persone accesso ai loro dati e il diritto di far correggere i loro dati personali. Un'altra parte di questa legge sulla sicurezza dei dati dice che le persone che sono responsabili dei dati personali devono assicurarsi che siano corretti. Questo rende questo issue un caso.

Joakim Söderberg, avvocato per la protezione dei dati presso Noyb, ha detto, «Il GDPR è chiaro. I dati personali devono essere accurati. […] Se non lo sono, gli utenti hanno il diritto di farli modificare per riflettere la verità.»

Ha aggiunto, «Mostrare agli utenti di ChatGPT una piccola disclaimer che il chatbot può commettere errori chiaramente non è sufficiente. Non puoi semplicemente diffondere informazioni false e alla fine aggiungere una piccola disclaimer dicendo che tutto ciò che hai detto potrebbe non essere vero.»

Dettagli delle indagini in corso

Il chatbot racconta una triste storia su Arve Hjalmar Holmen quando gli viene chiesto chi sia. Afferma che è stato dichiarato colpevole di omicidio di minori e condannato a 21 anni di prigione per aver ucciso due dei suoi figli.

Ora, perché questo è ancora più pericoloso? Anche se non è vero che Hjalmar Holmen è un assassino di minori, Noyb sottolinea che la risposta di ChatGPT include alcune verità. Ad esempio, la persona in questione ha tre figli.

Il chatbot ha anche identificato correttamente i generi dei suoi figli e ha nominato correttamente la sua città natale. Tuttavia, il fatto che l'IA abbia anche inventato menzogne così terribili rende la cosa ancora più strana e inquietante.

Un rappresentante di Noyb ha dichiarato di non sapere perché il chatbot abbia inventato uno sfondo così dettagliato ma falso per questa persona. Un portavoce ha affermato di aver condotto ricerche per assicurarsi che non si trattasse semplicemente di uno scambio con un'altra persona. Il portavoce ha dichiarato di aver esaminato gli archivi dei giornali ma non ha trovato una ragione per cui l'IA abbia inventato l'omicidio di minori.

A questo punto, la spiegazione migliore è che i modelli linguistici di grandi dimensioni, come quello che alimenta ChatGPT, fondamentalmente fanno previsioni sulla parola successiva su larga scala. 

A causa di ciò, i dataset utilizzati per addestrare lo strumento contenevano molte storie di filicidi che hanno influenzato le parole scelte per rispondere a una domanda su un uomo nominato. Tuttavia, indipendentemente dalla ragione, è chiaro che questo tipo di output non è per nulla accettabile.

Nel frattempo, Noyb dice che il chatbot ha smesso di raccontare bugie pericolose su Hjalmar Holmen dopo che il modello AI che lo esegue è stato aggiornato. Questo cambiamento è legato al fatto che lo strumento ora cerca informazioni su internet sulle persone quando viene chiesto chi sono.

Anche se ChatGPT sembra aver smesso di diffondere menzogne dannose su Hjalmar Holmen, sia Noyb che Hjalmar Holmen sono ancora preoccupati. E se il modello di IA avesse conservato informazioni errate e dannose su di lui?

L'autorità norvegese per la protezione dei dati ha ricevuto un reclamo contro OpenAI. Noyb spera che l'autorità di vigilanza decida di avere il potere di indagare poiché il reclamo è rivolto alla filiale statunitense di OpenAI. Il reclamo afferma che la sua sede in Irlanda non è l'unica responsabile delle decisioni sui prodotti che influenzano gli europei.

Il destino di OpenAI

Non è la prima volta per OpenAI. Le persone si sono già lamentate della creazione di dati personali errati da parte di ChatGPT, come una data di nascita errata o informazioni biografiche errate. 

L'autorità di vigilanza sulla protezione dei dati dell'Italia è intervenuta precocemente ai sensi del GDPR e ha temporaneamente bloccato l'accesso a ChatGPT nel paese nella primavera del 2023. Questo ha portato OpenAI a modificare alcune cose, come le informazioni fornite agli utenti. Dopo di ciò, l'autorità di vigilanza ha multato OpenAI di 15 milioni di euro per aver utilizzato i dati delle persone senza una valida ragione per farlo.

È anche interessante notare che l'autorità di vigilanza sulla protezione dei dati della Polonia sta esaminando un reclamo sulla privacy contro ChatGPT da settembre 2023 e non ha ancora preso una decisione.

Da allora, i funzionari sulla privacy in Europa sono diventati più diffidenti verso l'IA generativa. Questo perché stanno ancora cercando di capire come applicare al meglio il GDPR a questi popolari strumenti di IA.

Tuttavia, in un reclamo precedente su Noyb ChatGPT, la Commissione per la protezione dei dati dell'Irlanda (DPC) ha dichiarato due anni fa che le persone non dovrebbero affrettarsi a bandire gli strumenti di IA generativa, ad esempio. La DPC è responsabile dell'applicazione del GDPR. Questo significa invece che i funzionari dovrebbero prendersi del tempo per capire come funziona la legge.

Sembra che il nuovo reclamo di Noyb su ChatGPT sia destinato a risvegliare i funzionari sulla privacy dai pericoli delle IA che allucinano. Le violazioni confermate del GDPR possono portare a multe fino al 4% del fatturato annuo globale.