L'Organisation mondiale de la santé (OMS) a mis au point une IA intégrée par un chatbot nommé SARAH. La mission de SARAH est de couvrir l'accès à l'information sur la santé mondiale. Nous mentionnons l'approche innovante de SARAH. Néanmoins, il parvient toujours à produire de fausses informations médicales essentielles.
L'innovation technologique rencontre l'éducation à la santé
REFLETANT les efforts déployés par l'OMS pour cette cause, SETHARA est l'acronyme de Smart AI Resource Assistant for Health. Elle représente les derniers moyens numériques de santé utilisés par l’institution. Développée pour répondre aux demandes de soins à tout moment et en tout lieu, SARAH peut fournir des informations en huit langues, notamment sur la santé mentale et les choix de vie.
Il s'agit de l'une des actions qui font partie de la stratégie de l'OMS visant à intégrer la technologie dans l'éducation en santé publique et à combler le fossé mondial en matière de couverture sanitaire. Cependant, l'OMS a reconnu que l'embryon présente des faiblesses, bien qu'il s'agisse d'un prototype de l'histoire. Jusqu'à présent, il a été généralement adapté par les programmeurs pour rester dans le domaine du mandat de l'OMS et offre des informations sur la manière de trouver une aide professionnelle sur des questions particulières. Le bot ne peut pas fournir un tel service en continu et il ne peut pas être comparé à des outils comme WebMD.
Défis liés à la précision et à la sécurité de l'IA
SARAH n'a pas été réalisée uniquement par des moyens faciles depuis son déploiement. Le chatbot AI est basé sur le modèle ChatGPT 3.5 d'OpenAI ; il a eu des problèmes avec la fourniture d'informations obsolètes ainsi que de mauvaises réponses. Un exemple en est la mention incorrecte du statut d’approbation d’un nouveau médicament contre la maladie d’Alzheimer, reflet de son manque de données formées en cours qui n’incluaient que des données remontant à septembre 2021.
L'autre chose que SARAH vit souvent est de présenter des réponses qui peuvent être en dehors d'un sujet ou d'un objectif, le problème connu dans le développement de l'IA est qualifié d'hallucinations. En résumé, ces inexactitudes pourraient augmenter le danger de désinformation du public. L’Organisation mondiale de la santé (OMS) cherche donc à recueillir l’avis des chercheurs et des agences gouvernementales pour améliorer la résilience, notamment dans les situations d’urgence liées à la santé humaine.
Cela s’accompagne également d’appréhensions quant à l’utilisation de l’IA par le personnel de santé. SORAH applique des techniques de reconnaissance faciale pour détecter et déduire les émotions des utilisateurs. Ils promettent d’éviter de montrer leur visage en assurant la protection des données et la confidentialité. Le modèle de perpétuité open source est également marqué par une exposition accrue aux cyberattaques fondées sur l’IA.
Orientations futures et considérations éthiques
L'OMS maintient toujours SARAH, et des mises à jour seront bientôt disponibles, comme l'introduction de l'apparence changeante de l'avatar et des capacités interactives. En effet, l’OMS a annoncé des principes éthiques à ses parties prenantes et mis en avant les notions de transparence des données et de sécurité des utilisateurs. SARAH, qui est une technologie basée sur l’intelligence artificielle, est portée à un autre niveau de conception car l’OMS se méfie de l’intégration de l’IA dans la diffusion des messages de santé. Cependant, la technologie présente plusieurs faiblesses que l’organisation souligne promptement.
L'organisation indique clairement que SARAH n'est pas un transformateur des services médicaux, ce qui n'est pas ce qui était prévu, mais un outil de soutien pour sensibiliser et éduquer la santé publique dans le monde entier. Malgré certains obstacles, les efforts de l'OMS démontrent des progrès significatifs dans l'utilisation de l'intelligence artificielle dans l'éducation sanitaire, car ils s'adresseront à un public plus large et contribueront à rendre les informations sur la santé plus disponibles à l'échelle mondiale.
Cet article a été initialement publié dans Fortune
