ChatGPT colpita da una denuncia sulla privacy per allucinazioni diffamatorie

Il chatbot di Open AI, ChatGPT, è sotto inchiesta in Europa per reclami sulla privacy. Ha mostrato una tendenza a generare allucinazioni di informazioni false. Pericoloso, no? Questo potrebbe essere difficile da ignorare per le autorità di regolamentazione.

Un utente in Norvegia sta ricevendo assistenza dal Centro europeo per i diritti digitali, Noyb, dopo aver scoperto che ChatGPT restituiva informazioni false. Il chatbot affermava che l'utente era stato riconosciuto colpevole di aver ucciso due dei suoi figli e di aver tentato di ucciderne un terzo. Queste informazioni potrebbero raggiungerlo in seguito.

La cosa assurda è che OpenAI non offre alle persone un modo per correggere le informazioni errate che l'IA crea su di loro. Invece, OpenAI offre la possibilità di bloccare le risposte a questo tipo di domande. La domanda principale è se le informazioni vengano scartate o possano essere generate in seguito.

D'altro canto, il Regolamento generale sulla protezione dei dati (GDPR) dell'Unione Europea garantisce alle persone l'accesso ai propri dati e il diritto di richiederne la rettifica. Un'altra parte di questa legge sulla sicurezza dei dati stabilisce che i responsabili del trattamento dei dati personali devono assicurarsi che siano corretti. Questo rende la questione un caso concreto.

Joakim Söderberg, avvocato specializzato in protezione dei dati presso Noyb, ha dichiarato: “Il GDPR è chiaro. I dati personali devono essere accurati. […] In caso contrario, gli utenti hanno il diritto di richiederne la modifica per rispecchiare la verità.”

Ha aggiunto: "Mostrare agli utenti di ChatGPT un piccolo avviso che il chatbot può commettere errori non è certo sufficiente. Non si possono diffondere informazioni false e alla fine aggiungere una piccola nota in cui si ammette che tutto ciò che è stato detto potrebbe non essere vero."

Dettagli delle indagini in corso

Quando gli viene chiesto chi sia, il chatbot racconta una triste storia su Arve Hjalmar Holmen. Dice che è stato riconosciuto colpevole di omicidio di minore e condannato a 21 anni di carcere per aver ucciso due dei suoi figli.

Ora, perché questo è ancora più pericoloso? Anche se non è vero che Hjalmar Holmen sia un infanticida, Noyb sottolinea che la risposta di ChatGPT include alcune verità. Ad esempio, la persona in questione ha effettivamente tre figli.

Il chatbot ha anchedentcorrettamente il sesso dei suoi figli e ha dato il nome corretto alla sua città natale. Tuttavia, il fatto che l'IA abbia inventato bugie così terribili rende la cosa ancora più strana e inquietante.

Un rappresentante di Noyb ha dichiarato di non sapere perché il chatbot abbia inventato un background così dettagliato ma falso per questa persona. Un portavoce ha affermato di aver svolto ricerche per assicurarsi che non si trattasse semplicemente di un equivoco con un'altra persona. Il portavoce ha affermato di aver consultato gli archivi dei giornali, ma di non essere riuscito a trovare un motivo per cui l'IA avesse inventato l'omicidio di un bambino.

A questo punto, la spiegazione migliore è che i grandi modelli linguistici, come quello su cui si basa ChatGPT, fondamentalmente effettuano la previsione della parola successiva su larga scala. 

Per questo motivo, i set di dati utilizzati per addestrare lo strumento contenevano numerose storie di figlicidio che influenzavano le parole scelte per rispondere a una domanda su un uomo identificato. Tuttavia, qualunque sia la ragione, è chiaro che questo tipo di risultati non sono affatto accettabili.

Nel frattempo, Noyb afferma che il chatbot ha smesso di raccontare pericolose bugie su Hjalmar Holmen dopo l'aggiornamento del modello di intelligenza artificiale che lo gestisce. Questo cambiamento è dovuto al fatto che ora lo strumento cerca su Internet informazioni sulle persone quando gli viene chiesto chi sono.

Anche se ChatGPT sembra aver smesso di diffondere bugie dannose su Hjalmar Holmen, sia Noyb che Hjalmar Holmen sono ancora preoccupati. E se il modello di intelligenza artificiale avesse nascosto informazioni errate e dannose su di lui?

L'autorità norvegese per la protezione dei dati ha ricevuto un reclamo contro OpenAI. Noyb spera che l'autorità di controllo si accerti di avere il potere di indagare, poiché il reclamo è rivolto alla filiale statunitense di OpenAI. Il reclamo afferma che la sua sede irlandese non è l'unica responsabile delle decisioni sui prodotti che riguardano i cittadini europei.

Il destino di OpenAI

Non è la prima volta per OpenAI. In passato, gli utenti si erano lamentati della creazione di dati personali errati da parte di ChatGPT, come una data di nascita errata o informazioni biografiche errate. 

L'autorità garante per la protezione dei dati personali italiana è intervenuta tempestivamente in conformità al GDPR e ha temporaneamente bloccato l'accesso a ChatGPT nel Paese nella primavera del 2023. Ciò ha costretto OpenAI a modificare alcuni aspetti, come le informazioni fornite agli utenti. Successivamente, l'autorità garante ha multato OpenAI di 15 milioni di euro per aver utilizzato i dati degli utenti senza una valida ragione.

È anche interessante notare che l'autorità polacca per la protezione dei dati sta esaminando un reclamo sulla privacy contro ChatGPT da settembre 2023 e non ha ancora preso una decisione.

Da allora, i responsabili della privacy in Europa sono diventati più cauti nei confronti di GenAI. Questo perché stanno ancora cercando di capire come applicare al meglio il GDPR a questi popolari strumenti di intelligenza artificiale.

Tuttavia, in un precedente reclamo su Noyb ChatGPT, la Commissione irlandese per la protezione dei dati (DPC) aveva affermato due anni fa che non ci si dovrebbe affrettare a vietare, ad esempio, gli strumenti GenAI. La DPC è responsabile dell'applicazione del GDPR. Questo significa che i funzionari dovrebbero prendersi del tempo per capire come funziona la legge.

Sembra che il nuovo reclamo di Noyb su ChatGPT abbia lo scopo di sensibilizzare i responsabili della privacy sui pericoli delle IA allucinanti. Le violazioni accertate del GDPR possono comportare multe fino al 4% del fatturato annuo globale.