Les chercheurs développent un guide inclusif pour les chatbots IA dans le secteur de la santé

Des scientifiques de l'Université de Westminster ont mis en place un projet pionnier dont l'objectif principal est de développer un guide utilisateur complet pour les développeurs de chatbots IA dans les environnements de santé.

Le guide est conçu pour être impartial et prend en compte la diversité en mettant en œuvre un plan qui garantit que toutes les étapes du processus de conception tiennent compte des besoins des différents patients. L'approche intégrée prend des mesures préventives pour s'assurer que les inégalités en matière de santé ne s'aggravent pas. De plus, l'approche est calculée et devrait très probablement les réduire à long terme.

Collaboration IA et implication de la communauté

La recherche, menée par l'Institut Kinsey, l'Université de Sussex et l'association caritative HIV Positive East, est financée par le NHS AI Lab et The Health Foundation. L'équipe de recherche a évalué les lignes directrices formulées pour la création d'outils d'IA conversationnelle dans les environnements de santé, le NHS et l'OMS, entre autres ressources. Ils ont découvert dans leurs recherches que personne ne recevait de données régulières et à jour pour la prise de décision, et que ni la bonne conception ni la mise en œuvre n'étaient réalisées pour les personnes des communautés sous-représentées.

À cet égard, ces professionnels ont dû élaborer un plan complet comprenant les détails d'une manière dont les chatbots de santé seraient développés de manière inclusive pour les développeurs. Ils défendent l'idée que le genre, l'ethnicité et la sexualité devraient être des sujets de participation égale avec les hommes dans tous les aspects de la prise de décision, de la conception, de la maintenance et de la fin de vie. L'objectif principal est d'atteindre une plus grande inclusivité, acceptabilité et engagement, et de donner à plus de personnes la chance de surmonter les inégalités sociales en matière de santé.

Développement éthique de l'IA

Le Dr Tomasz Nadarzynczki, chercheur principal de la recherche à l'Université de Westminster, a parlé d'un changement dans la façon dont l'IA est conçue. Il affirme que le développement d'outils d'IA ne devrait pas se limiter à améliorer leur efficacité opérationnelle et à éliminer les risques. Il ajoute que les chercheurs comprennent parfaitement cela et sont en mesure de tirer parti des avantages de l'« IA pour le bien » et de se concentrer ultimement sur des questions critiques telles que les inégalités en matière de santé.

Il ajoute que pour réaliser cette nouvelle vision, nous avons besoin d'un changement global dans la façon dont les outils d'IA sont créés – un nombre qui met l'accent sur la collaboration avec diverses communautés lors de la création de l'algorithme et juste au moment de son déploiement. Être inclusif de cette manière est ce qui peut permettre de surmonter les biais, de gagner la confiance et de maximiser le niveau d'influence positive que l'IA peut apporter aux populations défavorisées.

Cette recherche contribue directement aux Objectifs de Développement Durable (ODD) des Nations Unies n° 3 : Le Code pour une Bonne Santé et un Bien-être, l'Égalité des Genres et les Partenariats pour le Progrès de Tous. À l'Université de Westminster, depuis 2019, les ODD sont utilisés dans une approche holistique pour orienter les choix stratégiques afin d'aider les étudiants et les collègues à exceller et à contribuer à un monde plus durable, équitable et en meilleure santé.

Cette recherche intéressante exalte l'inclusivité sous toutes ses formes et intègre l'implication de la communauté dans le développement de chatbots IA pour les environnements de santé. Elle ouvre la voie à un avenir équitable et facilement accessible de la technologie des soins de santé.