Le allucinazioni dell'IA hanno portato un altro problema legale per OpenAI
- Un reclamo è stato presentato contro OpenAI in Austria per le allucinazioni di ChatGPT da parte di un'organizzazione di difesa dei diritti digitali chiamata Noyb.
- ChatGPT ha fornito informazioni errate sulla data di nascita di una figura pubblica e si è rifiutato di cancellare o correggere i dati.
- L'avvocato di Noyb afferma che le aziende non sono in grado di creare chatbot in grado di soddisfare i requisiti della normativa UE.
Un'organizzazione per la privacy, Noyb, ha presentato un reclamo contro OpenAI presso l'Autorità austriaca per la protezione dei dati (DPA) sulla base del fatto che il suo prodotto ChatGPT viola molte leggi sulla protezione dei dati dell'UE. L'organizzazione ha dichiarato che ChatGPT condivide informazioni errate sulle persone e che il Regolamento generale sulla protezione dei dati (GDPR) dell'UE richiede che le informazioni sulle persone siano corrette e che abbiano pieno accesso alle informazioni che li riguardano.
OpenAI affronta accuse di violazione del GDPR
Noyb è stata fondata dal famoso avvocato e attivista Max Schrems e ha affermato che ChatGPT ha condiviso una data di nascita falsa su una famosa figura pubblica e, quando ha chiesto il permesso di accedere ed eliminare i dati relativi a lui, la sua richiesta è stata negata da OpenAI.
Noyb afferma che secondo il GDPR dell'UE, qualsiasi informazione su qualsiasi individuo deve essere accurata e che devono avere accesso e informazioni sulla fonte, ma secondo essa, OpenAI afferma di non essere in grado di correggere le informazioni nel suo modello ChatGPT. L'azienda è anche incapace di dire da dove provengono le informazioni e persino non sa quali dati ChatGPT memorizza sugli individui.
Noyb sostiene che OpenAI è consapevole del problema e sembra non preoccuparsene, poiché il suo argomento sulla questione è che
"L'accuratezza fattuale nei modelli linguistici di grandi dimensioni rimane un'area di ricerca attiva."
Noyb ha notato che le informazioni errate potrebbero essere tollerabili quando ChatGPT le riversa quando gli studenti le usano per i loro compiti, ma ha detto che è chiaramente inaccettabile per le persone individuali, poiché è un requisito della legge dell'UE che i dati personali devono essere accurati.
Le allucinazioni rendono i chatbot non conformi alle normative dell'UE
Noyb ha menzionato che i modelli di IA sono soggetti a allucinazioni e producono informazioni che sono in realtà false. Hanno messo in discussione la procedura tecnica di OpenAI per la generazione di informazioni, poiché ha notato il ragionamento di OpenAI, che
"risposte alle richieste degli utenti prevedendo le parole più probabili che potrebbero apparire in risposta a ciascun prompt."
Noyb sostiene che questo significa che nonostante il fatto che l'azienda disponga di ampi set di dati disponibili per l'addestramento del suo modello, non può comunque garantire che le risposte fornite agli utenti siano fattualmente corrette.
Maartje de Gaaf, avvocata per la protezione dei dati di Noyb, ha detto
"Creare informazioni false è problematico di per sé. Ma quando si tratta di informazioni false sugli individui, possono esserci gravi conseguenze."
Fonte: Noyb.
Ha anche detto che qualsiasi tecnologia deve seguire le leggi e non può giocare, poiché secondo lui, se uno strumento non può produrre risultati corretti sugli individui, allora non può essere utilizzato per questo scopo, ha anche aggiunto che le aziende non sono ancora tecnicamente solide per creare chatbot che possano conformarsi alle leggi dell'UE su questo argomento.
Gli strumenti di IA generativa sono sotto stretta scrutinio dei regolatori europei sulla privacy, poiché nel 2023 l'Autorità italiana per la protezione dei dati (DPA) ha temporaneamente limitato la protezione dei dati. Non è ancora chiaro quali saranno i risultati, ma secondo Noyb, OpenAI non finge nemmeno di voler rispettare la legge dell'UE.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Dichiarazione di responsabilità: Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per gli investimenti effettuati sulla base delle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Aamir Sheikh
Aamir è un giornalista tecnologico con quasi sei anni di esperienza nei settori delle criptovalute e della tecnologia. Si è laureato presso l'Università MAJ con un MBA in Finanza e Marketing. Attualmente lavora per Cryptopolitan, dove si occupa delle ultime novità sui mercati delle criptovalute e delle previsioni sui prezzi.
