ChatGPT continua a diffondere falsità, afferma l'autorità di vigilanza sui dati dell'UE 

ChatGPT, il chatbot virale di OpenAI, è ancora al di sotto degli standard di accuratezza dei dati dell'Unione Europea, secondo un nuovo rapporto dell'organo di vigilanza sulla privacy dell'UE. 

Leggi anche: L'AI Act europeo ottiene l'approvazione finale con multe fino a $38M

La relazione del Comitato Europeo per la Protezione dei Dati (EDPB) non è un documento giuridico. Tuttavia, informerà un approccio comune per la regolamentazione di ChatGPT nei 27 Stati membri dell'UE.

ChatGPT non si conforma agli standard sui dati

Gli organi di vigilanza nazionali hanno formato il 'gruppo di lavoro su ChatGPT' lo scorso anno, stimolati dai casi in corso in diversi paesi europei contro il modello AI. Il gruppo di lavoro rientra sotto l'EDPB.

In un rapporto pubblicato il 24 maggio, il gruppo di lavoro ha dichiarato:

"Sebbene le misure adottate per conformarsi al principio di trasparenza siano utili per evitare interpretazioni errate dell'output di ChatGPT, non sono sufficienti per conformarsi al principio di accuratezza dei dati."

I modelli linguistici di grandi dimensioni, o LLM, sono noti per "allucinare" – gergo tecnico per indicare quando i chatbot AI producono falsità, spesso con sicurezza.

Chatbot come ChatGPT o Gemini di Google sono alimentati da LLM. Ai sensi della rigida Regolamento Generale sulla Protezione dei Dati (GDPR) europeo, gli utenti possono intentare una causa per essere stati presentati in modo errato o privati della possibilità di correggere informazioni inaccurate su di sé.

Secondo il rapporto del gruppo di lavoro, "A causa della natura probabilistica del sistema (AI), l'attuale approccio di addestramento porta a un modello che può produrre output distorti o inventati."

"Gli output forniti da ChatGPT sono probabilmente considerati accurati dal punto di vista fattuale dagli utenti finali, comprese le informazioni relative a individui, indipendentemente dalla loro effettiva accuratezza", ha aggiunto.

L'UE raddoppia gli sforzi per la conformità

OpenAI ha precedentemente citato la complessità tecnica per il suo fallimento nel correggere la disinformazione, ma l'organo di vigilanza dell'Unione Europea sta raddoppiando gli sforzi.

"In particolare, l'impossibilità tecnica non può essere invocata per giustificare la mancata conformità a questi requisiti", ha notato il gruppo di lavoro.

In un caso appena aperto, una figura pubblica austriaca sta citando in giudizio ChatGPT per non aver corretto la sua data di nascita. OpenAI ha dichiarato che ciò non sarebbe stato tecnicamente fattibile, ma questo nuovo rapporto aumenterà la pressione sul modello AI.

Un avvocato specializzato in protezione dei dati legato al caso, Maartje de Graaf, ha dichiarato che le aziende sono attualmente incapaci di far rispettare i chatbot AI per conformarsi alla normativa dell'UE quando elaborano dati relativi a individui.

"Se un sistema non può produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sugli individui. La tecnologia deve seguire i requisiti legali, non il contrario", ha affermato de Graaf.

Preoccupazioni per la sicurezza si affacciano su OpenAI

Gli esperti affermano che ChatGPT richiederà cambiamenti ambiziosi per evitare di violare il GDPR, che regola la protezione dei dati nell'Unione Europea.

Le regole forniscono anche un modello di lavoro per le leggi sulla protezione dei dati in Argentina, Brasile, Cile, Giappone, Kenya, Mauritius, Sudafrica, Corea del Sud, Turchia e Regno Unito.

Leggi anche: OpenAI abbandona la voce di ChatGPT dopo la controversia con Scarlett Johansson

Nel frattempo, l'impegno di OpenAI per la sicurezza degli utenti è stato messo in discussione.

L'azienda è stata colpita da una serie di dimissioni di alto profilo, con la partenza del co-fondatore Ilya Sutskever, Gretchen Krueger, Jan Leike e una mezza dozzina di altri che hanno fatto valere la necessità di un cambiamento culturale.

All'inizio di questa settimana, OpenAI ha annunciato la sospensione della voce di ChatGPT 'Sky' dopo le preoccupazioni che somigliasse alla voce dell'attrice Scarlett Johansson nel film a tema AI, Her.

Reportage di Cryptopolitan di Jeffrey Gogo