ChatGPT continua a diffondere falsità, afferma l'ente di controllo dei dati dell'UE 

Secondo un nuovo rapporto dell'organismo di controllo della privacy dell'UE, ChatGPT, il chatbot virale di OpenAI, non soddisfa ancora gli standard di accuratezza dei dati dell'Unione Europea. 

Leggi anche: La legge europea sull'IA ottiene l'approvazione definitiva con sanzioni fino a 38 milioni di dollari

Il rapporto del Comitato europeo per la protezione dei dati (EDPB) non è un documento legale. Tuttavia, fornirà indicazioni per un approccio comune alla regolamentazione di ChatGPT nei 27 Stati membri dell'UE.

ChatGPT non è conforme agli standard sui dati

Lo scorso anno, gli organismi di controllo nazionali hanno istituito la "ChatGPT task force" sulla spinta dei casi in corso in diversi paesi europei contro il modello di intelligenza artificiale. La task force fa capo all'EDPB.

In un rapporto pubblicato il 24 maggio, la task force ha affermato:

"Sebbene le misure adottate per rispettare il principio di trasparenza siano utili per evitare interpretazioni errate dell'output di ChatGPT, non sono sufficienti per rispettare il principio di accuratezza dei dati."

I modelli linguistici di grandi dimensioni, o LLM, sono noti per le loro "allucinazioni", ovvero quando i chatbot di intelligenza artificiale sputano falsità, spesso con sicurezza.

I chatbot come ChatGPT o Gemini di Google sono basati su modelli lineari di leadership (LLM). In base al rigoroso Regolamento generale sulla protezione dei dati (GDPR) europeo, gli utenti possono intentare causa se vengono rappresentati in modo errato o se viene loro negata la possibilità di correggere informazioni inesatte che li riguardano.

Secondo il rapporto della task force, "A causa della natura probabilistica del sistema (IA), l'attuale approccio di addestramento porta a un modello che potrebbe anche produrre risultati distorti o inventati"

"È probabile che gli output forniti da ChatGPT siano considerati fattualmente accurati dagli utenti finali, comprese le informazioni relative agli individui, indipendentemente dalla loro effettiva accuratezza", ha aggiunto.

L'UE raddoppia gli sforzi per conformarsi

In passato OpenAI ha citato la complessità tecnica come causa della sua incapacità di correggere la disinformazione, ma l'organismo di controllo dell'Unione Europea sta raddoppiando gli sforzi.

“In particolare, l’impossibilità tecnica non può essere invocata per giustificare il mancato rispetto di tali requisiti”, ha osservato la task force.

In un caso recentemente aperto, un personaggio pubblico austriaco ha intentato causa contro ChatGPT per non aver corretto la propria data di nascita. OpenAI ha affermato che ciò non sarebbe tecnicamente fattibile, ma questo nuovo rapporto aumenterà la pressione sul modello di intelligenza artificiale.

Maartje de Graaf, avvocato esperto in protezione dei dati e coinvolto nel caso, ha affermato che al momento le aziende non sono in grado di far sì che i chatbot AI siano conformi alla normativa UE quando elaborano i dati degli individui.

"Se un sistema non è in grado di produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sugli individui. È la tecnologia a dover rispettare i requisiti legali, non il contrario", ha affermato de Graaf.

Problemi di sicurezza incombono su OpenAI

Gli esperti affermano che ChatGPT richiederà cambiamenti ambiziosi per evitare di entrare in conflitto con il GDPR, che regolamenta la protezione dei dati nell'Unione Europea.

Le norme forniscono anche un modello operativo per le leggi sui dati in Argentina, Brasile, Cile, Giappone, Kenya, Mauritius, Sudafrica, Corea del Sud, Turchia e Regno Unito.

Leggi anche: OpenAI elimina ChatGPT Voice dopo la controversia su Scarlett Johansson

Nel frattempo, l'impegno di OpenAI per la sicurezza degli utenti è stato messo in discussione.

L'azienda è stata colpita da una serie di dimissioni di personaggi di alto profilo, con l' uscita di scena del cofondatore Ilya Sutskever, di Gretchen Krueger, di Jan Leike e di una mezza dozzina di altri che sostengono la necessità di un cambiamento culturale.

All'inizio di questa settimana, OpenAI ha annunciato la sospensione della voce "Sky" di ChatGPT dopo che si era sospettato che assomigliasse alla voce dell'attrice Scarlett Johansson nel film sull'intelligenza artificiale "Her".

Cryptopolitan Reporting di Jeffrey Gogo