Le allucinazioni dell'intelligenza artificiale hanno causato un altro problema legale a OpenAI

Un'organizzazione per la privacy, Noyb, ha presentato un reclamo contro OpenAI all'Autorità Garante per la Protezione dei Dati Personali (DPA) austriaca, sostenendo che il suo prodotto ChatGPT viola numerose leggi sulla protezione dei dati dell'UE. L'organizzazione ha affermato che ChatGPT condivide informazioni errate sulle persone e che il Regolamento Generale sulla Protezione dei Dati (GDPR) dell'UE richiede che le informazioni sulle persone siano corrette e che a queste venga fornito pieno accesso alle informazioni che le riguardano.

OpenAI accusata di violazione del GDPR

Noyb è stata fondata dal famoso avvocato e attivista Max Schrems e sosteneva che ChatGPT avesse condiviso una falsa data di nascita di un famoso personaggio pubblico e, quando gli è stato chiesto il permesso di accedere ed eliminare i dati a lui relativi, la sua richiesta è stata negata da Open AI.

Noyb afferma che, secondo il GDPR dell'UE, qualsiasi informazione su qualsiasi individuo deve essere accurata e che quest'ultimo deve avere accesso alle informazioni sulla fonte, ma OpenAI afferma di non essere in grado di correggere le informazioni nel proprio modello ChatGPT. L'azienda non è inoltre in grado di stabilire da dove provengano le informazioni e non sa nemmeno quali dati ChatGPT memorizzi sugli individui. 

Noyb sostiene che OpenAI è a conoscenza del problema e sembra che non gliene importi nulla, poiché la sua argomentazione sulla questione è che,

“L’accuratezza fattuale nei modelli linguistici di grandi dimensioni rimane un’area di ricerca attiva.”

Noyb ha osservato che le informazioni errate potrebbero essere tollerabili quando ChatGPT le sputa quando glidentle usano per i loro compiti, ma ha affermato che sono chiaramente inaccettabili per le singole persone, poiché è un requisito della legislazione dell'UE che i dati personali debbano essere accurati. 

Le allucinazioni rendono i chatbot non conformi alle normative UE

Noyb ha menzionato che i modelli di IA sono inclini alle allucinazioni e producono informazioni che sono effettivamente false. Hanno messo in discussione la procedura tecnica di OpenAI per la generazione di informazioni, poiché ha notato il ragionamento di OpenAI secondo cui,

"risposte alle richieste degli utenti prevedendo le parole più probabili che potrebbero apparire in risposta a ogni richiesta."

Noyb sostiene che ciò significa che, nonostante l'azienda disponga di ampi set di dati per addestrare il suo modello, non può comunque garantire che le risposte fornite agli utenti siano effettivamente corrette.

L'avvocato specializzato in protezione dei dati di Noyb, Maartje de Gaaf, ha dichiarato:

"Inventare informazioni false è di per sé piuttostomatic . Ma quando si tratta di informazioni false su singoli individui, le conseguenze possono essere gravi."

Fonte: Noyb.

Ha anche affermato che qualsiasi tecnologia deve rispettare le leggi e non può aggirarle, poiché secondo lui, se uno strumento non può produrre risultati corretti sugli individui, allora non può essere utilizzato per questo scopo; ha anche aggiunto che le aziende non sono ancora tecnicamente in grado di creare chatbot in grado di rispettare le leggi dell'UE in materia.

Gli strumenti di intelligenza artificiale generativa sono sottoposti al rigoroso controllo delle autorità europee preposte alla tutela della privacy; già nel 2023, il Garante italiano per la protezione dei dati personali ha temporaneamente limitato la protezione dei dati. Non è ancora chiaro quali saranno gli esiti, ma secondo Noyb, OpenAI non finge nemmeno di conformarsi alla normativa europea.