A OMS apresenta o chatbot de IA SARAH, apesar de suas falhas

A Organização Mundial da Saúde (OMS) desenvolveu uma inteligência artificial integrada a um chatbot chamado SARAH. A missão de SARAH é facilitar o acesso à informação sobre saúde global. Destacamos a abordagem inovadora de SARAH. No entanto, ela ainda consegue disseminar algumas informações médicas falsas.

Inovação tecnológica aliada à educação em saúde

Refletindo os esforços da OMS nessa causa, SETHARA é um acrônimo para Assistente Inteligente de Recursos de IA para a Saúde. Ela representa os mais recentes recursos digitais de saúde utilizados pela instituição. Desenvolvida para atender às demandas de cuidados a qualquer hora e em qualquer lugar, SETHARA pode fornecer informações em oito idiomas, incluindo saúde mental e escolhas de vida. 

Esta é uma das ações que fazem parte da estratégia da OMS para integrar a tecnologia na educação em saúde pública e reduzir a desigualdade global na cobertura de saúde. No entanto, a OMS admitiu que o projeto em desenvolvimento apresenta algumas fragilidades, apesar de ser o primeiro protótipo da história. Até o momento, ele foi adaptado pelos programadores para se manter dentro do escopo do mandato da OMS e oferece informações sobre como encontrar ajuda profissional para questões específicas. O chatbot não consegue fornecer esse serviço continuamente e não pode ser comparado a ferramentas como o WebMD.

Desafios na precisão e segurança da IA

A implementação do chatbot SARAH não foi tão simples. Baseado no modelo ChatGPT 3.5 da OpenAI, ele apresentou problemas, como fornecer informações desatualizadas e algumas respostas incorretas. Um exemplo disso é a menção incorreta ao status de aprovação de um novo medicamento para Alzheimer, reflexo da falta de dados de treinamento contínuos, que incluíam apenas informações a partir de setembro de 2021.

Outro problema frequente com SARAH é a apresentação de respostas que podem estar fora do tópico ou propósito, um problema conhecido no desenvolvimento de IA que leva à interpretação errônea dessas informações como alucinações. Em resumo, essas imprecisões podem aumentar o risco de desinformação pública. A Organização Mundial da Saúde (OMS) está, portanto, buscando obter as opiniões de pesquisadores e agências governamentais para melhorar a resiliência, especialmente em emergências de saúde pública.

Isso também vem acompanhado de receios quanto ao uso da IA ​​pelos profissionais de saúde. A SORAH aplica técnicas de reconhecimento facial para detectar e deduzir as emoções dos usuários. A empresa promete evitar a exposição dos rostos, garantindo a proteção e a privacidade dos dados. O modelo de perpetuidade de código aberto também é marcado por uma maior exposição a ataques cibernéticos à base de IA.

Direções futuras e considerações éticas

A OMS ainda mantém o SARAH em funcionamento e em breve haverá atualizações, como a introdução de avatares com aparência variável e funcionalidades interativas. De fato, a OMS anunciou princípios éticos para seus parceiros e destacou as noções de transparência de dados e segurança do usuário. O SARAH, uma tecnologia baseada em inteligência artificial, foi levado a um novo patamar de desenvolvimento, visto que a OMS se mostra cautelosa quanto à integração da IA ​​na disseminação de mensagens de saúde. No entanto, a tecnologia apresenta algumas fragilidades, que a organização prontamente reconhece. 

A organização deixa claro que o SARAH não é um transformador dos serviços médicos, o que não era o objetivo inicial, mas sim uma ferramenta de apoio para disseminar a conscientização e a educação em saúde pública em todo o mundo. Apesar de alguns obstáculos, o esforço da OMS demonstra um progresso significativo no uso da inteligência artificial na educação em saúde, uma vez que será direcionado a um público mais amplo e ajudará a tornar as informações de saúde mais acessíveis globalmente.