L'oblio della macchina apre la strada a un dispiegamento responsabile ed etico dell'IA

In un momento cruciale per il campo dell'intelligenza artificiale (IA), i ricercatori stanno affrontando un problema urgente associato a questa tecnologia: insegnare ai sistemi di IA come dimenticare. L'AI Summit ha portato questo problema alla ribalta, sottolineando l'importanza dell'"oblio della macchina" come strumento critico per mitigare i rischi posti dall'IA. 

Man mano che l'IA continua a integrarsi in vari aspetti della società, i suoi benefici sono innegabili, ma lo sono anche i potenziali pericoli. Questo campo di ricerca emergente cerca di affrontare queste preoccupazioni rimuovendo in modo efficiente ed economico i dati problematici dai modelli di IA, in particolare le reti neurali profonde (DNN), che svolgono un ruolo centrale nelle applicazioni moderne di IA.

L'addestramento delle moderne DNN, inclusi modelli ben noti come ChatGPT e Bard, è un processo intensivo che richiede risorse computazionali e tempo significativi. Questi modelli, noti come Modelli Linguistici di Grandi Dimensioni (LLM), richiedono enormi quantità di dati ed energia per l'addestramento, equivalenti a decine di Gigawatt-ora, un livello di consumo energetico che potrebbe alimentare migliaia di famiglie per un anno. Il cuore del problema risiede nel fatto che riaddestrare i sistemi di IA per dimenticare dati specifici è un compito laborioso e ad alta intensità di risorse.

Per affrontare questa sfida, è emerso un nuovo campo di ricerca noto come "oblio della macchina". I ricercatori stanno lavorando allo sviluppo di tecniche che consentano ai modelli di IA di dimenticare in modo efficiente i dati che rappresentano un rischio per la società, mantenendo al contempo un'elevata accuratezza. Alla guida di questa ricerca c'è la collaborazione tra esperti di informatica dell'Università di Warwick e Google DeepMind.

Il professor Peter Triantafillou del Dipartimento di Informatica presso l'Università di Warwick ha recentemente co-autore una pubblicazione intitolata "Towards Unbounded Machine Unlearning", disponibile sul server di pre-print arXiv. Sottolinea la complessità delle DNN, che possono contenere trilioni di parametri, rendendo difficile comprendere come e perché questi modelli raggiungono i loro obiettivi. Questa complessità, combinata con i vasti dataset su cui sono addestrati, solleva preoccupazioni riguardo al potenziale danno che le DNN possono causare alla società.

Affrontare le preoccupazioni sui pregiudizi e sulla privacy

Uno dei rischi più significativi associati alle DNN è la presenza di dati distorti. Questi modelli possono perpetuare stereotipi negativi imparando da dataset intrisi di pregiudizi. Ad esempio, i sistemi di IA potrebbero associare erroneamente i medici ai maschi e le infermiere alle femmine, o persino rafforzare i pregiudizi razziali. Inoltre, le DNN potrebbero incorporare dati con "annotazioni errate", come l'etichettatura sbagliata di elementi, il che può avere gravi implicazioni, specialmente in applicazioni come il riconoscimento delle immagini.

Inoltre, la violazione della privacy degli individui è una preoccupazione maggiore. Il diritto all'oblio, sancito da regolamenti come il GDPR, concede agli individui il diritto di richiedere la rimozione dei propri dati da qualsiasi dataset e programma di IA. Questo pone una sfida significativa per i giganti della tecnologia e sottolinea la necessità di tecniche efficaci di oblio della macchina.

La promessa dell'oblio della macchina

La recente ricerca condotta dal professor Triantafillou e dal suo team ha prodotto un algoritmo rivoluzionario per l'"oblio della macchina". Questo algoritmo consente alle DNN di dimenticare selettivamente i dati problematici senza richiedere un completo riaddestramento del modello da zero. Importante, distingue tra tre diversi tipi di dati che devono essere dimenticati: pregiudizi, annotazioni errate e questioni relative alla privacy. Questa innovazione offre una soluzione pratica ed efficiente per mitigare i rischi associati all'IA.

L'oblio della macchina è ora posizionato come uno strumento vitale per salvaguardare il dispiegamento responsabile della tecnologia IA. Consentendo ai sistemi di IA di dimenticare i dati che perpetuano pregiudizi, contengono errori o violano la privacy, la società può sfruttare i benefici dell'IA senza compromettere i valori etici e sociali.