A inconsistência da IA em Emergências Médicas Levanta Preocupações

O recente estudo do Elson S. Floyd College of Medicine da Washington State University fornece informações cruciais sobre as possíveis barreiras à inteligência artificial (IA) em situações de emergência médica. No estudo publicado na PLOS One, os autores exploraram as capacidades do programa ChatGPT da OpenAI para avaliar o risco cardíaco de pacientes simulados em um caso de dor no peito.

Conclusões inconsistentes

Os resultados apontam para um nível problemático de variabilidade nas conclusões do ChatGPT quando os mesmos dados do paciente são inseridos. De acordo com o Dr. Thomas Heston, o pesquisador principal, o ChatGPT não funciona de maneira consistente. Ao apresentar os mesmos dados exatos, o ChatGPT poderia dar um risco baixo na primeira vez, um risco intermediário na próxima vez e, às vezes, até uma classificação de alto risco.

Essa lacuna é muito séria em casos críticos que ameaçam a vida, pois nesses casos, as avaliações essenciais e objetivas têm grande importância para que o profissional de saúde tome a ação correta e apropriada. Os pacientes podem experimentar dor no peito devido a diferentes doenças. Portanto, o médico precisa examinar o paciente rapidamente e realizar o tratamento oportuno para fornecer o cuidado adequado ao paciente.

O estudo também descobriu que o desempenho do ChatGPT foi fraco em comparação com os métodos tradicionais usados pelos médicos para avaliar o risco cardíaco dos pacientes. Hoje, os médicos usam um método de anotação em lista de verificação de dois lados para avaliar os pacientes aproximadamente de acordo com os protocolos TIMI e HEART, que são indicadores do grau de doença do paciente cardíaco.

No entanto, ao oferecer como entradas variáveis como as exibidas nas escalas TIMI e HEART, foi alcançado um maior desacordo com as pontuações do ChatGPT, com uma taxa de concordância de 45% e 48% para as respectivas escalas. Suponha que essa diversidade seja encontrada na tomada de decisões da IA em casos médicos de alto risco. Nesse caso, isso leva a questionar a confiabilidade da IA, pois são essas situações de alto risco que dependem de decisões consistentes e precisas.

Abordando as limitações e o potencial da IA na saúde

O Dr. Heston destacou a capacidade da IA de impulsionar o suporte à saúde e enfatizou a necessidade de realizar um estudo minucioso para excluir deficiências inerentes a ela. A IA pode ser uma ferramenta necessária, mas estamos avançando mais rápido do que entendemos. Portanto, devemos fazer muitas pesquisas, especialmente em situações clínicas comumente encontradas.

Evidentemente, os resultados da pesquisa confirmaram a importância dos enfermeiros humanos nesses ambientes, embora a tecnologia de IA também tenha mostrado algumas vantagens. Tome o exemplo de uma emergência na qual especialistas em saúde digital seriam capazes de analisar o histórico médico completo de um paciente, utilizando assim a capacidade do sistema para oferecer apenas informações pertinentes com o maior grau de eficiência. Além disso, a IA pode participar tanto da geração de diagnósticos diferenciais quanto da reflexão sobre casos desafiadores com os médicos. Isso ajudará os médicos a avançarem de forma mais eficiente no processo de diagnóstico.

No entanto, ainda existem algumas questões, de acordo com o Dr. Heston.

“Ela pode ser realmente boa em ajudar você a pensar no diagnóstico diferencial de algo que você não conhece, e provavelmente é uma de suas maiores forças. Quero dizer, você poderia pedir os cinco principais diagnósticos e as evidências por trás de cada um, e assim ela poderia ser muito boa em ajudá-lo a pensar no problema, mas simplesmente não consegue dar a resposta direta.”

À medida que a IA continua evoluindo, é de suma importância avaliar seu desempenho profundamente, talvez especialmente em situações de alto risco como a saúde, para garantir a segurança dos pacientes e otimizar a tomada de decisões médicas.