Une règle de transparence sur l'IA révèle des avantages potentiels malgré ses limitations

Afin de clarifier le domaine souvent complexe de l'intelligence artificielle (IA) dans le secteur de la santé, le Département de la Santé et des Services sociaux (HHS) a mis en place une mesure essentielle : la Règle de transparence en matière d'IA (HTI-1). Bien que saluée pour sa volonté d'éclairer le fonctionnement des modèles prédictifs d'IA, cette règle, malgré ses avantages, risque de ne pas apporter de solution globale aux défis inhérents à cette technologie en pleine expansion.

La règle sur la transparence de l'IA découle du constat d'un manque généralisé de transparence sur le marché de l'IA dans le domaine de la santé, notamment en ce qui concerne les modèles prédictifs. Jeff Smith, directeur adjoint de la certification et des tests au sein du Bureau du coordonnateur national (ONC) pour les technologies de l'information en santé du Département de la Santé et des Services sociaux (HHS), souligne l'urgence de cette initiative. Cette règle vise à remédier au manque d'informations relatives à la conception, au développement, aux tests, à l'entraînement et à l'évaluation des modèles d'IA prédictifs, manque qui a engendré des préjudices avérés affectant des millions d'Américains.

Éclairer les principes de la règle

En vertu de la règle de transparence de l'IA, l'ONC a finalisé deux grandes catégories de politiques. Premièrement, cette règle exige la mise à disposition d'informations complètes sur la conception, le développement, l'entraînement, l'évaluation et l'utilisation des systèmes d'aide à la décision prédictifs (SAD). Il s'agit d'une étape cruciale pour permettre aux utilisateurs de mieux comprendre les algorithmes d'IA qu'ils emploient.

En outre, la réglementation stipule que la gestion des risques joue un rôle essentiel dans le déploiement des systèmes d'information prédictifs et que la gouvernance doit encadrer leur conception et leur mise en œuvre. En établissant un cadre incluant la divulgation d'informations et la gestion des risques, la réglementation vise à définir un référentiel pour l'évaluation de la qualité des algorithmes d'IA à l'échelle nationale.

Mandar Karhade, responsable des données et de l'analytique chez Avalere Health, souligne que les objectifs de certains modèles d'IA ne sont pas toujours transparents. Qu'il s'agisse de diagnostic, de réduction des coûts ou d'un autre objectif, ce manque de clarté pose des problèmes potentiels. Les dossiers médicauxtron(DME) apparaissent comme un domaine vulnérable, les fonctionnalités d'IA telles que la saisie semi-automatique d'Oracle soulevant des inquiétudes quant à l'exactitude des données et aux ajouts non intentionnels.

Jeff Smith établit un parallèle entre la règle de transparence de l'IA et l'étiquetage nutritionnel des aliments, soulignant son rôle essentiel dans la fourniture d'informations cruciales. Meghan O'Connor, juriste chez Quarles & Brady, conteste cette analogie, mettant en avant la nature subjective et impossible à quantifier des informations divulguées. Ceci soulève des questions quant à la manière dont les développeurs de technologies de l'information en santé communiquent ces informations et dont les professionnels de santé les intègrent à leur analyse des risques.

Évaluation de la portée de la règle de transparence de l'IA

Niam Yaraghi, chercheur associé nondent à la Brookings Institution, propose une analyse critique. Tout en reconnaissant le noble objectif de cette règle, qui vise à garantir l'équité en matière d'IA, il la juge quelque peu réactionnaire. Yaraghi préconise des politiques favorisant des progrès rapides dans ce domaine et s'attaquant aux obstacles tels que les silos de données au sein du système de santé.

Dans le dédale de la transparence en matière d'IA, cette réglementation représente un progrès significatif. Cependant, face à l'évolution constante de l'IA dans le secteur de la santé, des questions persistent : la transparence peut-elle à elle seule garantir un usage responsable et équitable de l'IA en santé ? Cette réglementation présente-t-elle des limites intrinsèques pour relever les défis dynamiques posés par la convergence des technologies et de la santé ? Alors que les acteurs concernés avancent avec prudence dans ce domaine en pleine mutation, la recherche d'un équilibre entre innovation et responsabilité demeure primordiale.