L'OMS lance Sarah, un chatbot IA malgré ses imperfections

L'Organisation mondiale de la santé (OMS) a mis au point une intelligence artificielle intégrée à un chatbot nommé SARAH. La mission de SARAH est de faciliter l'accès à l'information sur la santé mondiale. Nous soulignons l'approche novatrice de SARAH. Cependant, elle parvient encore à diffuser des informations médicales erronées.

L'innovation technologique au service de l'éducation à la santé

Témoignant des efforts déployés par l'OMS en ce sens, SETHARA (Smart AI Resource Assistant for Health) représente le dernier outil numérique de santé utilisé par l'institution. Conçue pour répondre aux besoins de soins à tout moment et en tout lieu, SETHARA peut fournir des informations en huit langues, notamment sur la santé mentale et les choix de vie. 

Cette action s'inscrit dans la stratégie de l'OMS visant à intégrer les technologies à l'éducation en santé publique et à réduire les inégalités d'accès aux soins à l'échelle mondiale. L'OMS reconnaît toutefois que ce prototype présente des faiblesses. Jusqu'à présent, il a été adapté par les programmeurs pour rester dans le cadre du mandat de l'OMS et fournit des informations sur la manière d'obtenir une aide professionnelle pour des problèmes spécifiques. Ce chatbot ne peut pas assurer un service continu et ne peut être comparé à des outils comme WebMD.

Défis liés à la précision et à la sécurité de l'IA

Le déploiement de SARAH n'a pas été sans difficultés. Ce chatbot IA, basé sur le modèle ChatGPT 3.5 d'OpenAI, a rencontré des problèmes, notamment la diffusion d'informations obsolètes et de réponses erronées. Par exemple, il a mentionné de manière incorrecte le statut d'approbation d'un nouveau médicament contre la maladie d'Alzheimer, ce qui reflète le manque de données d'entraînement à jour, celles-ci ne remontant qu'à septembre 2021.

Un autre problème fréquemment rencontré par SARAH est la présentation de réponses parfois hors sujet ou hors de propos. Ce problème connu dans le développement de l'IA est qualifié d'hallucinations. En résumé, ces inexactitudes pourraient accroître le risque de désinformation du public. L'Organisation mondiale de la Santé (OMS) cherche donc à recueillir l'avis des chercheurs et des agences gouvernementales afin d'améliorer la résilience, notamment face aux urgences sanitaires.

Ceci s'accompagne également d'appréhensions quant à l'utilisation de l'IA par le personnel de santé. SORAH utilise des techniques de reconnaissance faciale pour détecter et déduire les émotions des utilisateurs. L'entreprise promet de garantir la protection des données et le respect de la vie privée en évitant l'affichage du visage des utilisateurs. Le modèle open source à durée de vie illimitée est également marqué par une vulnérabilité accrue aux cyberattaques visant les fondements de l'IA.

Orientations futures et considérations éthiques

L'OMS continue de maintenir SARAH et des mises à jour sont prévues prochainement, notamment l'introduction d'avatars personnalisables et de fonctionnalités interactives. L'OMS a par ailleurs annoncé des principes éthiques pour ses parties prenantes et a mis en avant les notions de transparence des données et de sécurité des utilisateurs. SARAH, une technologie basée sur l'intelligence artificielle, évolue dans sa conception, l'OMS étant attentive à l'intégration de l'IA dans la diffusion de messages de santé. Cependant, cette technologie présente plusieurs faiblesses que l'organisation souligne avec enthousiasme. 

L'organisation indique clairement que SARAH n'est pas un outil de transformation des services médicaux, ce qui n'était pas son objectif initial, mais un soutien à la diffusion de la sensibilisation et de l'éducation en matière de santé publique à l'échelle mondiale. Malgré certains obstacles, les efforts de l'OMS témoignent de progrès significatifs dans l'utilisation de l'intelligence artificielle en éducation sanitaire, car ils permettront de toucher un public plus large et de rendre l'information sanitaire plus accessible au monde entier.