Nel tentativo di fare chiarezza nelle acque spesso torbide dell'intelligenza artificiale (IA) in ambito sanitario, il Dipartimento della Salute e dei Servizi Umani (HHS) ha istituito una misura fondamentale: la Regola sulla Trasparenza dell'IA (HTI-1). Pur elogiata per il suo tentativo di far luce sulle complessità dei modelli di IA predittiva, gli esperti avvertono che la norma, pur essendo utile, potrebbe non riuscire a fornire una soluzione olistica alle sfide insite in questa tecnologia in rapida evoluzione.
La norma sulla trasparenza dell'IA nasce dal riconoscimento di una diffusa mancanza di trasparenza nel mercato dell'IA in ambito sanitario, in particolare per quanto riguarda i modelli predittivi. Jeff Smith, Vicedirettore della Certificazione e dei Test presso l'Ufficio del Coordinatore Nazionale (ONC) per le Tecnologie dell'Informazione Sanitaria dell'HHS, sottolinea l'urgenza di questa iniziativa. La norma mira ad affrontare la scarsità di informazioni relative alla progettazione, allo sviluppo, ai test, alla formazione e alla valutazione dei modelli di IA predittiva, che ha causato danni documentati a milioni di americani.
Far luce sui principi della regola
Nell'ambito della norma sulla trasparenza dell'IA, l'ONC ha finalizzato due categorie di policy generali. In primo luogo, la norma impone la disponibilità di informazioni complete su come gli interventi di supporto alle decisioni predittivi (DSI) vengono progettati, sviluppati, addestrati, valutati e dovrebbero essere utilizzati. Questo segna un passo cruciale verso una maggiore comprensione da parte degli utenti degli algoritmi di IA che utilizzano.
Inoltre, la norma stabilisce che la gestione del rischio svolge un ruolo fondamentale nell'implementazione di DSI predittivi e che la governance deve guidarne la progettazione e l'implementazione. Istituendo un quadro che include la divulgazione delle informazioni e la gestione del rischio, la norma mira a creare una base di riferimento per la valutazione della qualità degli algoritmi di intelligenza artificiale su scala nazionale.
Mandar Karhade, Responsabile Dati e Analisi presso Avalere Health, sottolinea che l'intento alla base di alcuni modelli di intelligenza artificiale non è sempre trasparente. Che l'obiettivo sia la diagnosi, il risparmio sui costi o un altro obiettivo, la mancanza di chiarezza pone potenziali sfide. Le cartelle clinichetron(EHR) emergono come un ambito vulnerabile, con funzionalità di intelligenza artificiale come il "completamento automatico" di Oracle che sollevano preoccupazioni circa l'accuratezza e l'aggiunta involontaria di dati.
Jeff Smith traccia parallelismi tra la norma sulla trasparenza dell'IA e un'etichetta nutrizionale per gli alimenti, evidenziandone il ruolo nel fornire informazioni essenziali. Meghan O'Connor, esperta legale di Quarles & Brady, contesta questa analogia, sottolineando la natura soggettiva e incommensurabile delle informazioni divulgate. Ciò solleva interrogativi su come gli sviluppatori di IT sanitario comunichino tali informazioni e su come i fornitori le integrino nelle loro analisi dei rischi.
Valutazione della portata della regola sulla trasparenza dell'IA
Niam Yaraghi, ricercatore senior nondent presso la Brookings Institution, offre una prospettiva critica. Pur riconoscendo il nobile obiettivo della norma di garantire l'equità nell'intelligenza artificiale, la ritiene in qualche modo reazionaria. Yaraghi sostiene politiche che favoriscano rapidi progressi nell'intelligenza artificiale e affrontino barriere come i silos di dati nel sistema sanitario.
Nell'affrontare il labirinto della trasparenza dell'IA, la norma rappresenta un significativo passo avanti. Tuttavia, mentre il panorama sanitario si confronta con la natura in continua evoluzione dell'IA, permangono interrogativi: la trasparenza può da sola garantire un uso responsabile ed equo dell'IA in ambito sanitario ? Esistono limiti intrinseci alla capacità della norma di affrontare le sfide dinamiche poste dall'intersezione tra tecnologia e assistenza sanitaria? Mentre le parti interessate procedono con cautela in questo ambito in continua evoluzione, la ricerca di un equilibrio tra innovazione e responsabilità rimane fondamentale.
