Le “allucinazioni” dell’intelligenza artificiale scatenano un reclamo per violazione della privacy

Noyb, l'organizzazione austriaca indipendentedent la protezione dei dati fondata dall'avvocato Max Schrems, ha presentato un reclamo all'autorità europea per la protezione dei dati personali in merito a OpenAI , accusandola di violazione del GDPR e di mancata fornitura di un rimedio per le informazioni errate.

Presentato reclamo per violazione della privacy

Schrems, noto avvocato specializzato in privacy e capace attivista, ha avviato alcuni dei più importanti reclami in materia di privacy nell'UE. OpenAI si trova ad affrontare la DSB (Società austriaca per la dominanza e la discriminazione), la cui contestazione si concentra sulle "allucinazioni", le risposte errate che i modelli linguistici di grandi dimensioni dell'IA (intelligenza artificiale) tendono a fornire. Il provvedimento richiesto dall'ordinanza di aggiudicazione include un'indagine sulla violazione, una decisione dichiarativa, una sanzione e lo studio di misure correttive.

L'azienda, OpenAI, sarebbe a conoscenza della violazione della privacy, ma questo non ha importanza. Secondo il comunicato stampa, la dichiarazione di Noyb è contenuta in un comunicato che annuncia l'archiviazione.

Modelli di grandi dimensioni, tra cui ChatGPT, eseguono calcoli per prevedere le parole più sensate per determinate selezioni. Ci sono casi in cui il modello seleziona le parole sbagliate perché non riesce a riconoscere il contesto, fornendo la risposta sbagliata o "allucinando", come si dice nel gergo del settore.

Questo, tuttavia, non è in linea con i diritti individuali nella tradizione della "privacy", quindi per Noyb. La normativa europea non si è spinta molto oltre nel sancire la necessità dell'accuratezza dei dati personali dal 1995, e il GDPR, la più recente legge sulla privacy dell'UE, si assume l'obbligo di una precisa protezione dei dati personali.

Prendere di mira le “allucinazioni” dell’IA

A questo proposito, Noyb ha sottolineato che le informazioni personali di qualsiasi opinionista pubblico privo di data di nascita sono disponibili online. ChatGPT ha erroneamente risposto con la data principale a causa dell'errore nella domanda.

Anche OpenAI non si è accontentata della risposta non richiesta in merito all'accesso e alla cancellazione dei dati nell'indagine sulla richiesta condotta nel dicembre 2023. Ai sensi del GDPR, i titolari del trattamento dei dati devono comunicare all'interessato informazioni personali in merito al trattamento dei dati e cancellare i dati dell'interessato su richiesta, mentre sono consentite restrizioni alla cancellazione.

Noyb, che ha agito in qualità di ricorrente nel caso, ha scoperto che il servizio forniva dati statistici all'utente; tuttavia, non venivano fornite informazioni sull'utilizzo dei dati da parte del sistema.

Richieste di dati gestite in modo errato

Come affermato da OpenAI, oltre a trasmettere un messaggio educativo, hanno promesso di fare del loro meglio per impedire al modello di indicare l'anno di nascita in risposta alla query; tuttavia, secondo il reclamo, non possono correggere la risposta errata visualizzata.

Ciò ha comportato, a sua volta, il blocco di una parte più ampia delle informazioni relative all'interessato su ChatGPT. Questo, in sostanza, ostacolerebbe il diritto del pubblico all'informazione su questa persona – una figura nota – che OpenAI aveva segnalato tramite un'obiezione.

L'affermazione affermava: "Nessuna azione da parte di un chatbot può correggere le informazioni, nessun filtro può effettuare uno screening selettivo o semplicemente nessun soggetto interessato non può conformarsi a questa situazione secondo il titolare del trattamento"

Si tratta solo della filiale irlandese, e la sede centrale si trova ancora negli Stati Uniti, ha dichiarato Noyb a Margrethe Vestager, responsabile antitrust dell'UE. L'imputato è stato citato nella causa perché è un'entità della società statunitense OpenAI OpCo LLC, come previsto dai termini e dalle condizioni della società.