La règle de transparence de l'IA dévoile des avantages potentiels malgré des limites
- Les Services à la santé et aux services sociaux (HHS) présentent une règle révolutionnaire sur la transparence de l'IA (HTI-1), conçue pour remédier au caractère opaque des modèles d'IA prédictifs dans le secteur de la santé.
- Les experts reconnaissent les aspects positifs de cette règle, en soulignant la nécessité de garantir la transparence des modèles d'IA. Toutefois, des inquiétudes subsistent quant à la capacité de la réglementation à répondre de manière exhaustive aux défis multifacettes posés par l'IA dans le domaine de la santé.
- La règle exige la divulgation d'informations relatives à la conception, au développement et à l'évaluation des modèles d'IA, à l'image d'une étiquette nutritionnelle. Des critiques s'élèvent concernant le caractère subjectif de ces informations et remettent en question leur efficacité pour atténuer les risques liés aux algorithmes biaisés.
Afin d'apporter de la clarté dans les eaux souvent troubles de l'intelligence artificielle (IA) dans le secteur de la santé, le Department of Health and Human Services (HHS) a instauré une mesure cruciale – la règle de transparence de l'IA (HTI-1). Bien que saluée pour sa tentative d'illuminer les complexités des modèles d'IA prédictive, les experts mettent en garde : bien que bénéfique, la règle pourrait ne pas fournir une solution holistique aux défis ancrés dans cette technologie en rapide évolution.
La règle de transparence de l'IA découle de la reconnaissance d'un manque de transparence pervasive sur le marché de l'IA dans le secteur de la santé, en particulier concernant les modèles prédictifs. Jeff Smith, directeur adjoint de la certification et des tests au bureau du coordinateur national (ONC) pour la technologie de l'information en santé du HHS, souligne l'urgence derrière cette initiative. La règle cherche à remédier à la rareté des informations concernant la conception, le développement, les tests, l'entraînement et l'évaluation des modèles d'IA prédictive, ce qui a conduit à des préjudices documentés affectant des millions d'Américains.
Éclairer les principes de la règle
En vertu de la règle de transparence de l'IA, l'ONC a finalisé deux grandes catégories de politiques. Premièrement, la règle impose la disponibilité d'informations complètes sur la manière dont les Interventions de Soutien à la Décision (ISD) prédictives sont conçues, développées, entraînées, évaluées et devraient être utilisées. Cela marque une étape cruciale vers l'autonomisation des utilisateurs avec une compréhension plus profonde des algorithmes d'IA qu'ils emploient.
De plus, la règle stipule que la gestion des risques joue un rôle pivot dans le déploiement des ISD prédictives, et que la gouvernance doit guider leur conception et leur mise en œuvre. En établissant un cadre incluant la divulgation d'informations et la gestion des risques, la règle vise à créer une base de référence pour évaluer la qualité des algorithmes d'IA à l'échelle nationale.
Mandar Karhade, responsable des données et de l'analyse chez Avalere Health, souligne que l'intention derrière certains modèles d'IA n'est pas toujours transparente. Que l'objectif soit le diagnostic, l'économie de coûts ou un autre but, le manque de clarté pose des défis potentiels. Les Dossiers de Santé Électroniques (DSE) émergent comme un domaine vulnérable, avec des fonctionnalités d'IA comme l'« autocomplétion » d'Oracle soulevant des préoccupations quant à l'exactitude et aux ajouts de données involontaires.
Jeff Smith établit des parallèles entre la règle de transparence de l'IA et une étiquette nutritionnelle pour les aliments, soulignant son rôle dans la fourniture d'informations essentielles. Meghan O'Connor, experte juridique chez Quarles & Brady, remet en question cette analogie, pointant la nature subjective et immeasurable des informations divulguées. Cela soulève des questions sur la manière dont les développeurs de technologies de santé informatique communiquent ces informations et comment les prestataires les intègrent dans leur analyse des risques.
Évaluation de la portée de la règle de transparence de l'IA
Niam Yaraghi, chercheur senior non résident à l'Institut Brookings, offre une perspective critique. Tout en reconnaissant l'objectif noble de la règle d'assurer l'équité dans l'IA, il le juge quelque peu réactionnaire. Yaraghi plaide pour des politiques favorisant des avancées rapides dans l'IA et enlevant les barrières telles que les silos de données dans le système de santé.
Dans la navigation du labyrinthe de la transparence de l'IA, la règle représente une avancée significative. Cependant, alors que le secteur de la santé fait face à la nature évolutive de l'IA, des questions persistent : La transparence seule peut-elle garantir une utilisation responsable et équitable de l'IA dans le secteur de la santé ? Existe-t-il des limites inhérentes à la capacité de la règle à relever les défis dynamiques posés par l'intersection de la technologie et des soins de santé ? Alors que les parties prenantes avancent avec prudence dans cet environnement en évolution, la quête d'un équilibre entre innovation et responsabilité reste primordiale.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Aamir Sheikh
Aamir est journaliste technologique avec près de six ans d'expérience dans les secteurs de la cryptomonnaie et de la technologie. Il est diplômé de l'université MAJ avec un MBA en finance et marketing. Il travaille désormais pour Cryptopolitan, où il rend compte des dernières évolutions des marchés de la cryptomonnaie et des prévisions de prix.
