Estudo cauteloso revela limitações do ChatGPT ao fornecer informações precisas sobre medicamentos
- Estudo revela que o ChatGPT frequentemente fornece informações imprecisas sobre medicamentos; recomenda-se cautela.
- As orientações médicas do ChatGPT carecem de confiabilidade, alertam farmacêuticos.
- IA na saúde: Estudo destaca lacunas de conhecimento do ChatGPT.
Um estudo recente levantou preocupações sobre a confiabilidade da versão gratuita do ChatGPT, o popular chatbot da OpenAI, ao fornecer informações precisas relacionadas a medicamentos. A pesquisa conduzida por farmacêuticos do College of Pharmacy da Long Island University revela que as respostas do ChatGPT a perguntas relacionadas a medicamentos são frequentemente imprecisas ou incompletas. As descobertas destacam a necessidade de cautela por parte dos pacientes e profissionais de saúde que dependem do ChatGPT para informações farmacêuticas.
O estudo envolveu fazer 39 perguntas relacionadas a medicamentos ao ChatGPT, das quais apenas 10 receberam respostas satisfatórias. As 29 perguntas restantes foram abordadas de forma imprecisa, incompleta ou ambas. Essa inconsistência nas respostas destaca uma lacuna significativa na capacidade do chatbot de fornecer informações confiáveis sobre medicamentos.
Inadequação ao abordar consultas farmacêuticas
A equipe de pesquisa, liderada por Sara Grossman, avaliou o desempenho do ChatGPT comparando suas respostas com as de farmacêuticos que responderam ao mesmo conjunto de perguntas. As perguntas eram consultas reais recebidas pelo serviço de informações sobre medicamentos do College of Pharmacy da Long Island University de janeiro de 2022 a abril de 2023. Das 45 perguntas iniciais, seis foram excluídas devido à falta de respostas baseadas na literatura.
O ChatGPT falhou em abordar diretamente 11 perguntas, forneceu respostas imprecisas para 10 e deu respostas incorretas ou incompletas para mais 12. Os pesquisadores também notaram que o ChatGPT, quando solicitado, forneceu referências em apenas oito respostas, todas as quais citaram fontes inexistentes. Isso levanta preocupações sobre os processos de referência e verificação do chatbot.
Um caso particularmente alarmante foi a afirmação incorreta do ChatGPT de que não existe interação medicamentosa entre o antiviral Paxlovid e o anti-hipertensivo Verapamil. Na realidade, combinar esses medicamentos pode levar a uma queda excessiva da pressão arterial, representando um sério risco à saúde. Esse erro é especialmente preocupante, considerando que muitos usuários podem não estar cientes das limitações de dados do ChatGPT, potencialmente levando a consequências prejudiciais.
Implicações para a IA na saúde
As descobertas do estudo são críticas no contexto da popularidade e uso generalizado do ChatGPT. Lançado em 2022, o ChatGPT rapidamente se tornou um dos aplicativos de internet de consumo de crescimento mais rápido, atraindo cerca de 1,7 bilhão de visitas globalmente apenas em outubro. Sua versão gratuita, no entanto, é limitada aos dados disponíveis até setembro de 2021, deixando-o potencialmente fora de sintonia com desenvolvimentos e inovações médicas recentes.
Embora a versão paga do ChatGPT agora inclua capacidades de navegação na internet em tempo real, o estudo concentrou-se principalmente na versão gratuita para refletir a experiência da população em geral. Os pesquisadores enfatizam a importância de verificar as respostas do ChatGPT com profissionais de saúde confiáveis ou fontes médicas confiáveis.
Este estudo serve como um lembrete crucial das limitações da IA em áreas sensíveis como a saúde. Embora tecnologias de IA como o ChatGPT ofereçam vantagens significativas em termos de acessibilidade e conveniência, seu estado atual exige um escrutínio cuidadoso, especialmente quando se trata de questões de saúde e bem-estar. Os usuários são aconselhados a tratar as informações de tais fontes com cautela e sempre consultar profissionais de saúde qualificados para aconselhamento médico.
O estudo do College of Pharmacy da Long Island University serve como um alerta crítico sobre as limitações da IA na saúde, particularmente na fornecimento de informações precisas sobre medicamentos. À medida que a IA continua a integrar-se em vários aspetos das nossas vidas, é essencial manter-se consciente das suas limitações e abordar a sua utilização, especialmente em áreas críticas como a saúde, com cautela informada.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Glory Kaburu
Glory é uma jornalista extremamente conhecedora, proficiente em ferramentas de IA e pesquisa. Ela é apaixonada por IA e escreveu vários artigos sobre o assunto. Mantém-se atualizada com os últimos desenvolvimentos em Inteligência Artificial, Aprendizado de Máquina e Aprendizado Profundo, escrevendo regularmente sobre eles.
