- A inteligência artificial (IA) na saúde, embora promissora, pode enganar médicos devido a vieses nos dados dos quais ela aprende, segundo um estudo publicado no Journal of the American Medical Association (JAMA).
- O estudo focou em modelos de IA que auxiliam no diagnóstico de insuficiência respiratória aguda, revelando que, mesmo com explicações, as decisões enviesadas da IA levaram a uma queda significativa na precisão dos médicos.
- As descobertas destacam a necessidade de melhores formas de explicar as decisões da IA aos médicos e ressaltam a importância de abordar os vieses para uma integração segura e eficaz da IA na saúde.
No intricado cenário da saúde, o papel da inteligência artificial (IA) tem sido tanto uma bênção quanto uma possível maldição. Embora a IA prometa auxiliar os médicos a tomar decisões mais informadas, um estudo recente publicado no Journal of the American Medical Association (JAMA) revela uma realidade desconcertante.
O estudo examina as repercussões da IA na saúde, destacando especificamente os perigos representados pelas informações tendenciosas fornecidas aos médicos. Apesar dos rigorosos esforços de órgãos reguladores como a Food and Drug Administration (FDA) para garantir a confiabilidade e a segurança das ferramentas de IA, o estudo sugere que, mesmo com explicações, os médicos podem ser enganados se a IA aprender a partir de dados defeituosos e tendenciosos.
Explorando o impacto da IA nos diagnósticos de saúde
A pesquisa, liderada por Sarah Jabbour, estudante de doutorado em ciência da computação na Universidade de Michigan, concentrou-se em modelos de IA projetados para auxiliar no diagnóstico de pacientes com insuficiência respiratória aguda – uma condição crítica em que os pacientes enfrentam dificuldades para respirar. Colaborando com profissionais de saúde, incluindo médicos, enfermeiros praticantes e assistentes médicos, a equipe investigou como a tomada de decisão da IA impactava a precisão do diagnóstico.
Surpreendentemente, quando os profissionais de saúde confiaram exclusivamente na decisão da IA, sua precisão aumentou em aproximadamente 3%. No entanto, a introdução de uma explicação, representada por um mapa detalhando o foco da IA em uma radiografia de tórax, melhorou ainda mais a precisão em 4,4%.
O estudo deu uma virada crucial ao introduzir intencionalmente viés no processo de tomada de decisão da IA. Por exemplo, a IA pode sugerir incorretamente que pacientes mais velhos, com 80 anos ou mais, têm maior probabilidade de ter pneumonia.
Jenna Wiens, uma professora envolvida no estudo, destacou os vieses inerentes à IA ao aprender a partir de dados defeituosos, citando um exemplo em que diagnósticos incorretos baseados no gênero poderiam levar a resultados distorcidos. Infelizmente, quando os médicos foram apresentados a explicações da IA tendenciosa, sua precisão caiu cerca de 11,3%, mesmo quando o foco irrelevante da IA era evidente.
O desafio de desvendar os vieses da IA
Sarah Jabbour reconhece que, embora as explicações da IA ofereçam uma potencial via de melhoria, o estudo destaca os desafios. A queda no desempenho, consistente com outros estudos, sinaliza que, mesmo com explicações, os modelos de IA ainda podem enganar os profissionais de saúde.
Jabbour enfatiza a necessidade de esforços colaborativos entre diferentes campos para desenvolver melhores métodos de explicar as decisões da IA aos médicos de forma compreensível. O estudo serve como um chamado para mais pesquisas, incentivando a exploração de maneiras de aproveitar os benefícios da IA com segurança na saúde. Também enfatiza a necessidade de uma educação médica robusta para equipar os profissionais com o conhecimento necessário para navegar pelos potenciais vieses da IA.
À medida que a integração de IA na saúde avança, o estudo levanta uma questão crucial: Como podemos garantir a utilização segura e eficaz da IA enquanto mitigamos os riscos de informações tendenciosas? As descobertas destacam a urgência de abordar esses desafios, impulsionando inovações que preencham a lacuna entre os avanços da IA e a compreensão dos médicos.
Os esforços colaborativos de especialistas de diversas áreas podem pavimentar o caminho para um futuro em que a IA na saúde melhore a precisão sem comprometer a confiabilidade e a segurança? O estudo serve não apenas como um conto de advertência, mas também como um catalisador para a exploração contínua da relação complexa entre a IA e a saúde, incentivando as partes interessadas a navegar pela paisagem em evolução com uma aguda consciência das possíveis armadilhas.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
