La nuova regola sulla discriminazione dell'IA nel settore sanitario è in corso

L'Ufficio per i diritti civili (OCR) del Dipartimento della salute e dei servizi umani (HHS) ha recentemente emanato una norma definitiva sull'applicabilità della sezione 1557 dell'Affordable Care Act, che impedisce a qualsiasi programma sanitario finanziato con fondi federali di discriminare in base a razza, colore, nazionalità, sesso, età o disabilità.

Questa norma è in linea con la sentenza della Corte Suprema della Contea di Bostock contro Clayton del 2020, e la Sezione 1557 è intesa come discriminazione "basata sul sesso", che include sia l'orientamento sessuale che l'dentdi genere. Quest'ultima norma ha inoltre stabilito che, anche quando l'apprendimento automatico viene applicato a una tecnologia basata sull'intelligenza artificiale, gli standard di utilizzo dei fornitori rimangono soggetti alla Sezione 1557. Pertanto, sono tenuti a esaminare e affrontare qualsiasi potenziale rischio di discriminazione.

Valutazione dei rischi di distorsione dell'IA

Ai sensi della norma sulla governance, uno "strumento di supporto alle decisioni in materia di assistenza al paziente" è qualsiasi configurazione autonoma o combinata di qualsiasi tecnologia o metodo che un'entità coperta utilizza per supportare il processo decisionale clinico. Ad esempio, alcuni fornitori di strumenti per applicazioni di assistenza diretta al paziente includono algoritmi predittivi in ​​grado di valutare il rischio per il paziente e la gravità di futuri eventi sanitari, nonché motori di analisi utilizzati per approvare o negare le richieste di rimborso in base alla necessità del trattamento. 

L'OCR ha affermato che con l'utilizzo di tali strumenti e il passaggio a un processo decisionale deficomprende sia i veicoli automatizzati che gli ausili non automatizzati come i diagrammi di flusso. La tecnologia sanitaria potrebbe quindi rivelarsi ingiusta se alle persone con disabilità venisse impedito di ricevere pari cure e se gli operatori sanitari non prendessero in considerazione le caratteristiche individuali del controllo sanitario. basato sull'intelligenza artificiale , la situazione di ogni paziente deve essere riconsiderata. Diversi studi hanno dimostrato che l'affidamento a determinati algoritmi ha portato a disparità razziali ed etniche. La di cui sopra

Sforzi ragionevoli per prevenire i pregiudizi

La capacità dell'ente interessato di assumersi la responsabilità aggiuntiva nei confronti del consumatore o le sue risorse finanziarie. Indipendentemente dal fatto che i prodotti siano realizzati con l'intento di soddisfare l'uso previsto, come approvato dagli sviluppatori e dagli enti regolatori, indipendentemente dal layout dei dati, gli sviluppatori dovrebbero impegnarsi a informare l'ente sul rischio di discriminazione.

Specificare esplicitamente se l'interessato (per conto del quale agisce l'entità interessata) ha seguito un processo o se l'entità interessata (ovvero un'organizzazione che agisce per conto dell'interessato) ne ha già sviluppato uno per valutare gli strumenti utilizzati.

La norma differisce radicalmente dalla precedente, secondo cui i finanziamenti della Parte B di Medicare sono classificati come assistenza federale se erogati a fornitori e fornitori. Ridurre leggermente il numero di persone che ricevono i fondi della Parte B ed esentarle dai della Sezione 1557 le renderà conformi alla Sezione 1557 e ad altre normative sui diritti civili implementate dall'ufficio OCR.