La nouvelle règle de discrimination de l'IA dans le secteur de la santé est en cours d'élaboration

Le Bureau des droits civils (OCR) du Département de la santé et des services sociaux (HHS) a récemment publié une règle finale sur l'applicabilité de l'article 1557 de la loi sur les soins abordables, qui limite les programmes de santé financés par des fonds fédéraux à toute discrimination fondée sur la race, la couleur, la nationalité, le sexe, l'âge ou le handicap.

Cette règle est conforme à la décision de la Cour suprême du comté de Clayton dans l'affaire Bostock c. Clayton en 2020, et l'article 1557 est interprété comme une discrimination « fondée sur le sexe », incluant l'orientation sexuelle et l'dentde genre. La dernière règle précise également que même lorsque l'apprentissage automatique est appliqué dans une technologie basée sur l'intelligence artificielle, les normes d'utilisation des fournisseurs restent soumises à l'article 1557. Par conséquent, ils sont tenus d'examiner et de gérer tout risque potentiel de discrimination.

Évaluation des risques de biais de l'IA

Selon la réglementation en vigueur, un « outil d’aide à la décision en matière de soins aux patients » désigne toute configuration, autonome ou combinée, de technologies ou de méthodes utilisées par une entité concernée pour faciliter la prise de décision clinique. Par exemple, certains fournisseurs d’outils destinés aux applications de soins directs aux patients proposent des algorithmes prédictifs capables d’évaluer le risque et la gravité des futurs problèmes de santé du patient, ainsi que des moteurs d’analyse permettant d’approuver ou de refuser les demandes de remboursement de soins médicaux en fonction de la nécessité du traitement. 

L'OCR a déclaré qu'avec l'utilisation de tels outils et la préférence pour basée sur l'IA la prise de décision defienglobe les véhicules autonomes et les aides non automatisées comme les organigrammes. La technologie de la santé pourrait donc être inéquitable si les personnes handicapées sont empêchées d'accéder à des soins égaux et si les prestataires ne tiennent pas compte des caractéristiques individuelles du bilan de santé.

efforts raisonnables de prévention des biais

La capacité de l'entité concernée à assumer la responsabilité supplémentaire liée au consommateur ou ses moyens financiers. Que les produits soient fabriqués conformément à leur usage prévu et approuvé par les développeurs et les organismes de réglementation, et indépendamment de la présentation des données, les développeurs doivent s'efforcer de sensibiliser l'entité au risque de discrimination.

Indiquez clairement si la personne concernée (pour le compte de laquelle l'entité couverte agit) a suivi une procédure ou si l'entité couverte (c'est-à-dire une organisation agissant pour le compte de la personne concernée) en a déjà élaboré une pour évaluer les outils utilisés.

Cette règle diffère radicalement de la précédente, qui classait les fonds de la partie B de Medicare comme aide fédérale lorsqu'ils étaient versés à des prestataires et fournisseurs. En réduisant légèrement le nombre de bénéficiaires de la partie B et en les exemptant des l'article 1557, on les obligera à se conformer à cet article et aux autres réglementations relatives aux droits civiques mises en œuvre par le Bureau des droits civiques (OCR).