Le “Allucinazioni” dell'IA sollecitano reclami sulla privacy

Noyb, l'organizzazione austriaca indipendente per la protezione dei dati, fondata dall'avvocato Max Schrems, ha presentato un reclamo all'autorità per la privacy dell'UE riguardante OpenAI – una violazione del GDPR e il mancato fornire di un rimedio per informazioni errate.

Reclamo sulla privacy presentato

Schrems, un noto avvocato per la privacy e abile attivista, ha avviato alcuni dei reclami sulla privacy più importanti nell'UE. OpenAI sta affrontando la DSB (Società Austriaca della Dominanza e della Discriminazione), la cui sfida si concentra sulle “allucinazioni”, le risposte errate che i modelli linguistici di grandi dimensioni di IA (intelligenza artificiale) tendono a fornire. Il sollievo che l'ordine di adjudicazione richiede include un'indagine sulla violazione, una decisione dichiarativa, una penale e uno studio delle misure correttive.

La società, OpenAI, è presumibilmente a conoscenza della violazione della privacy, ma non importa. Secondo il comunicato stampa, la dichiarazione di Noyb è in una dichiarazione che annuncia la presentazione del reclamo.

I modelli di grandi dimensioni, inclusi ChatGPT, eseguono calcoli per prevedere quelle parole che hanno più senso per determinate selezioni. Ci sono casi in cui il modello selezionerà le parole sbagliate a causa della sua incapacità di notare il contesto, fornendo la risposta sbagliata o “allucinazione”, che è un gergo del settore.

Questo, tuttavia, non è con i diritti individuali nelle tradizioni della “privacy”, quindi per Noyb. La regolamentazione europea non è andata oltre nello stabilire la necessità di accuratezza dei dati personali dal 1995, e il GDPR, la più recente legge sulla privacy dell'UE, assume il dovere di una precisa protezione dei dati personali.

Indirizzare le “allucinazioni” dell'IA

In questa linea, Noyb ha sottolineato che le informazioni personali di qualsiasi opinionista pubblico senza dettagli sulla data di nascita sono disponibili online. ChatGPT ha risposto erroneamente con la loro data principale a causa dell'errore nella domanda.

Anche OpenAI non era soddisfatta della loro risposta non sollecitata riguardo all'accesso e alla cancellazione dei dati inclusi nell'indagine sulla richiesta condotta nel dicembre 2023. Ai sensi del GDPR, i titolari del trattamento devono comunicare al soggetto dei dati personali riguardo al trattamento dei loro dati ed eliminare i dati del soggetto su richiesta, mentre sono consentite restrizioni alla cancellazione.

Noyb, che ha agito come denunciante nel caso, ha scoperto che il servizio ha fornito dati statistici all'utente; tuttavia, non sono state fornite informazioni sull'utilizzo dei dati da parte del sistema.

Gestione errata delle richieste di dati

Come ha affermato OpenAI, oltre a trasmettere un messaggio educativo, hanno promesso di fare del loro meglio per impedire al modello di rispondere all'anno di nascita alla query; tuttavia, secondo la denuncia, non possono correggere la risposta errata visualizzata.

Ciò, a sua volta, ha portato a una parte più informativa dei dati del soggetto interessato bloccata da ChatGPT. Questo, nel suo significato, ostacolerebbe il diritto del pubblico all'informazione su questa persona – una figura nota – di cui OpenAI aveva riferito tramite un'obiezione.

La denuncia affermava: «Nessuna azione di un chatbot può correggere le informazioni, nessun filtro può selezionare selettivamente, o semplicemente che nessun interessato ai dati può conformarsi a questa situazione secondo il titolare del trattamento.»

È solo la filiale irlandese, mentre la sede centrale rimane negli Stati Uniti, ha dichiarato Noyb al capo dell'antitrust dell'UE Margrethe Vestager. Questo convenuto è stato citato in causa perché è un'entità della società statunitense OpenAI OpCo LLC, menzionata nei termini e condizioni dell'azienda.