La nouvelle règle sur la discrimination par l'IA dans le secteur de la santé en cours

Le Bureau des droits civils (OCR) du département de la Santé et des Services sociaux (HHS) a récemment publié une règle finale sur l'applicabilité de la section 1557 de l'Affordable Care Act, qui interdit à tout programme de santé financé par des fonds fédéraux de discriminer sur la base de la race, de la couleur, de la nationalité, du sexe, de l'âge ou du handicap.

Cette règle s'aligne sur la décision de la Cour suprême Bostock c. Clayton County en 2020, et la Section 1557 est comprise comme une discrimination « fondée sur le sexe », ce qui inclut à la fois l'orientation sexuelle et l'identité de genre. La dernière règle a également résolu que même lorsque l'apprentissage automatique est appliqué dans une technologie alimentée par l'IA, les normes d'utilisation des prestataires restent sous la Section 1557. Par conséquent, ils sont tenus d'examiner et de traiter tout risque potentiel de discrimination.

Évaluation des risques de biais de l'IA

Selon la règle de gouvernance, un « outil d'aide à la décision des soins aux patients » est toute configuration autonome ou combinée de toute technologie ou méthode qu'une entité couverte utilise pour aider à la prise de décision clinique. Par exemple, certains fournisseurs d'outils pour des applications directes de soins aux patients incluent des algorithmes prédictifs qui peuvent évaluer le risque des patients et la gravité des événements de santé futurs, ainsi que des moteurs d'analyse utilisés pour approuver ou refuser les réclamations médicales en fonction de la nécessité du traitement. 

L'OCR a déclaré qu'avec l'utilisation de tels outils et la préférence accordée à la prise de décision basée sur l'IA , la situation de chaque patient doit être reconsidérée. Plusieurs études ont démontré que la dépendance à certains algorithmes conduisait à des disparités raciales et ethniques. La définition ci-dessus englobe les véhicules automatisés et les aides non automatisées comme les organigrammes. La technologie de santé pourrait donc être injuste si les personnes handicapées sont empêchées d'obtenir des soins égaux, et si les prestataires ne tiennent pas compte des caractéristiques individuelles de la vérification de santé.

Efforts raisonnables de prévention des biais

La capacité de l'entité couverte à assumer la responsabilité supplémentaire du consommateur ou ses moyens financiers. Que les produits soient produits avec l'intention de leur utilisation prévue telle qu'approuvée par les développeurs et les régulateurs, indépendamment de la disposition des données, les développeurs devraient s'efforcer d'informer l'entité concernant le risque de discrimination.

Précisez si le sujet des données (pour le compte duquel l'entité couverte agit) a suivi un processus, ou si l'entité couverte (c'est-à-dire une organisation agissant pour le compte du sujet) en a déjà développé un pour évaluer les outils utilisés.

La nouvelle règle diffère radicalement de l'ancienne règle selon laquelle le financement de la partie B de Medicare est classé comme une aide fédérale lorsqu'il est donné aux prestataires et fournisseurs. La réduction légère du nombre de personnes recevant des fonds de la partie B et leur exemption des exigences de la Section 1557 les obligera à se conformer à la Section 1557 et à d'autres réglementations sur les droits civils mises en œuvre par le bureau de l'OCR.