Cómo la IA en la atención médica puede engañar a los médicos con datos sesgados
- La inteligencia artificial (IA) en el sector salud, aunque prometedora, puede inducir a error a los médicos debido a los sesgos en los datos de los que aprende, según un estudio publicado en el Journal of the American Medical Association (JAMA).
- El estudio se centró en modelos de IA destinados a asistir en el diagnóstico de insuficiencia respiratoria aguda, revelando que incluso con explicaciones, las decisiones sesgadas de la IA provocaron una caída significativa en la precisión de los médicos.
- Los hallazgos subrayan la necesidad de mejorar las formas de explicar las decisiones de la IA a los médicos y destacan la importancia de abordar los sesgos para una integración segura y efectiva de la IA en el sector salud.
En el intrincado panorama de la atención médica, el papel de la inteligencia artificial (IA) ha sido tanto una bendición como una posible maldición. Aunque la IA promete ayudar a los médicos a tomar decisiones más informadas, un estudio reciente publicado en el Journal of the American Medical Association (JAMA) revela una realidad desconcertante.
El estudio profundiza en las repercusiones de la IA en la atención médica, iluminando específicamente los peligros que plantean la información sesgada proporcionada a los médicos. A pesar de los rigurosos esfuerzos de los organismos reguladores como la Administración de Alimentos y Medicamentos (FDA) para garantizar la fiabilidad y seguridad de las herramientas de IA, el estudio sugiere que incluso con explicaciones, los médicos pueden ser engañados si la IA aprende de datos defectuosos y sesgados.
Explorando el impacto de la IA en los diagnósticos de atención médica
La investigación, dirigida por Sarah Jabbour, estudiante de doctorado en ciencias de la computación en la Universidad de Míchigan, se centró en modelos de IA diseñados para ayudar en el diagnóstico de pacientes con insuficiencia respiratoria aguda, una condición crítica en la que los pacientes luchan con dificultades para respirar. Colaborando con profesionales médicos, incluidos médicos, enfermeras practicantes y asistentes médicos, el equipo investigó cómo la toma de decisiones de la IA impactaba la precisión del diagnóstico.
Sorprendentemente, cuando los profesionales médicos confiaron únicamente en la decisión de la IA, su precisión aumentó aproximadamente un 3 %. Pero, al introducir una explicación, representada como un mapa que detalla el enfoque de la IA en una radiografía de tórax, la precisión mejoró aún más un 4,4 %.
El estudio dio un giro crucial al introducir intencionalmente un sesgo en el proceso de toma de decisiones de la IA. Por ejemplo, la IA podría sugerir incorrectamente que los pacientes mayores, de 80 años o más, tienen más probabilidades de tener neumonía.
Jenna Wiens, una profesora involucrada en el estudio, destacó los sesgos inherentes en la IA cuando aprende de datos defectuosos, citando un ejemplo donde los diagnósticos erróneos basados en el género podrían llevar a resultados sesgados. Desafortunadamente, cuando se presentaron a los médicos explicaciones de la IA sesgada, su precisión se desplomó aproximadamente un 11,3 %, incluso cuando el enfoque irrelevante de la IA era evidente.
El desafío de desentrañar los sesgos de la IA
Sarah Jabbour reconoce que, aunque las explicaciones de la IA ofrecen una vía potencial para la mejora, el estudio subraya los desafíos. La caída en el rendimiento, consistente con otros estudios, señala que incluso con explicaciones, los modelos de IA pueden seguir engañando a los profesionales médicos.
Jabbour enfatiza la necesidad de esfuerzos colaborativos entre diferentes campos para desarrollar mejores métodos para explicar las decisiones de la IA a los médicos de manera comprensible. El estudio sirve como una llamada a la acción para una mayor investigación, instando a explorar formas de aprovechar los beneficios de la IA de manera segura en la atención médica. También enfatiza la necesidad de una sólida educación médica para equipar a los profesionales con el conocimiento necesario para navegar los posibles sesgos de la IA.
A medida que avanza la integración de la IA en la atención médica, el estudio plantea una pregunta crucial: ¿Cómo podemos garantizar el uso seguro y eficaz de la IA mientras mitigamos los riesgos de información sesgada? Los hallazgos subrayan la urgencia de abordar estos desafíos, impulsando innovaciones que cierren la brecha entre los avances de la IA y la comprensión de los médicos.
¿Pueden los esfuerzos colaborativos de expertos de diversos campos allanar el camino hacia un futuro donde la IA en la atención médica mejore la precisión sin comprometer la fiabilidad y la seguridad? El estudio sirve no solo como un cuento de advertencia, sino también como un catalizador para la exploración continua de la relación matizada entre la IA y la atención médica, instando a las partes interesadas a navegar el paisaje en evolución con una aguda conciencia de las posibles trampas.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
