L'IA può diventare imparziale nella sanità, i ricercatori faticano a trovare una risposta

Ogni paziente, indipendentemente dalle loro caratteristiche fisiche e identità, dovrebbe avere accesso a una buona assistenza sanitaria. Tuttavia, alcune persone o gruppi sono stati spesso privati dell'equità nel sistema sanitario a causa del problema delle iniquità e dei pregiudizi impliciti nel trattamento e nella diagnosi medica. 

I modelli di IA nella sanità sono distorti

Un gruppo di ricercatori del Massachusetts Institute of Technology (MIT) ha ora scoperto che l'intelligenza artificiale e l'apprendimento automatico hanno la tendenza ad alimentare ulteriormente le disparità e le iniquità nell'assistenza sanitaria tra i sottogruppi, spesso sottorappresentati. Questo può influenzare il modo in cui questi gruppi vengono diagnosticati e trattati. 

Guidati da un professore assistente nel Dipartimento di Scienza e Ingegneria Elettrica (EECS) del MIT, Marzyeh Ghassemi, i ricercatori hanno pubblicato un articolo di ricerca che analizza le radici delle disparità che possono sorgere nell'IA, causando il fallimento dei modelli che funzionano bene in generale quando si tratta di sottogruppi sottorappresentati.

L'analisi si è concentrata sui "cambiamenti di sottopopolazione", che il rapporto ha definito come "le differenze nel modo in cui i modelli di apprendimento automatico performano per un sottogruppo rispetto a un altro". L'obiettivo principale era determinare i tipi di cambiamenti di sottopopolazione che possono verificarsi con le tecniche di IA e potenzialmente informare i futuri progressi per modelli più equi. 

"Vogliamo che i modelli siano equi e funzionino ugualmente bene per tutti i gruppi, ma invece osserviamo costantemente la presenza di cambiamenti tra diversi gruppi che possono portare a diagnosi e trattamenti medici inferiori", afferma lo studente di dottorato del MIT Yuzhe Yang.

I ricercatori identificano 4 cambiamenti che alimentano i pregiudizi nei modelli di IA

I ricercatori del MIT hanno identificato quattro tipi di cambiamenti – correlazioni spurie, squilibrio degli attributi, squilibrio di classe e generalizzazione degli attributi – che causano iniquità e pregiudizi nelle tecniche di IA.

"I pregiudizi possono, in effetti, derivare da ciò che i ricercatori chiamano la classe, o dall'attributo, o da entrambi", recita il rapporto. 

I ricercatori hanno fornito un esempio in cui i modelli di apprendimento automatico sono stati utilizzati per determinare se una persona ha la polmonite o meno in base all'esame di immagini ai raggi X, con due attributi – le persone sottoposte ai raggi X sono di sesso femminile o maschile – e due classi – una composta da persone con la malattia polmonare e un'altra senza infezioni.

"Se, in questo particolare set di dati, ci fossero 100 maschi diagnosticati con polmonite per ogni femmina diagnosticata con polmonite, ciò potrebbe portare a uno squilibrio degli attributi, e il modello probabilmente farebbe un lavoro migliore nel rilevare correttamente la polmonite in un uomo rispetto a una donna", ha spiegato il team.

I modelli di IA possono funzionare in modo imparziale?

I ricercatori del MIT hanno detto di essere riusciti a ridurre la comparsa di correlazioni spurie, squilibrio di classe e squilibrio degli attributi migliorando il "classificatore" e l'"encoder". Tuttavia, l'altro cambiamento, "generalizzazione degli attributi", è persistito. 

"Non importa cosa abbiamo fatto all'encoder o al classificatore, non abbiamo visto miglioramenti in termini di generalizzazione degli attributi", dice Yang, "e non sappiamo ancora come affrontare questo problema."

Il team sta attualmente esplorando set di dati pubblici per decine di migliaia di pazienti e radiografie del torace per determinare se i professionisti sanitari possono raggiungere l'equità nella diagnosi e nel trattamento medico nei modelli di apprendimento automatico.

Tuttavia, hanno riconosciuto che c'è ancora bisogno di una migliore comprensione delle fonti di ingiustizia e di come permeano il nostro sistema attuale per arrivare all'equità desiderata.