Los errores de búsqueda de salud en Google AI Overviews generan preocupación

Google utiliza inteligencia artificial para responder consultas sobre salud. Algunos analistas consideran esto preocupante, ya que la función de Resumen de IA puede proporcionar información poco fiable.

Los médicos afirman que las vistas generales de IA pueden ser un problema, especialmente al responder consultas de salud personales. Argumentaron que la función podría proporcionar información inexacta, aunque también puede guiar a las personas hacia el tratamiento médico necesario, según un informe reciente del New York Times.

El error de búsqueda en las descripciones generales de la IA alimenta los sentimientos de alucinación de la IA

Google presentó AI Overviews, una función que genera resúmenes de contenido de sitios web y los muestra en la página de resultados de búsqueda de Google. A los pocos días de su lanzamiento, la función mostró numerosas inexactitudes, ya que basaba sus respuestas en fuentes erróneas. Esto refuerza la idea de que la IA es propensa a alucinaciones y puede generar información incorrecta.

Lea también: Google limita las vistas generales de IA para consultas satíricas y sin sentido

Los resultados de búsqueda relacionados con la salud que ofrecen una dosis diaria de rock o invitan a los usuarios a comer pizzas pegadas han generado reacciones negativas. AI Overviews cita fuentes como la Organización Mundial de la Salud, WebMD, PubMed y la Clínica Mayo. Sin embargo, no se limita a estas fuentes. Los analistas afirman que la herramienta extrae información de Reddit, Wikipedia, diferentes blogs y sitios de comercio electrónico.

Hema Budaraju, directora sénior de gestión de productos de Google, afirmó que existen medidas de seguridad adicionales para las consultas relacionadas con la salud, pero se negó a revelar más detalles. Añadió que algunas consultas no activan las vistas generales de IA, por ejemplo, si el sistema detecta una situación de autolesión.

Google afirmó que AI Overviews se integra con Google Knowledge Graph, una base de conocimiento que contiene datos extraídos de varias fuentes, pero no proporcionó detalles sobre los sitios web que respaldan el resultado de la función de búsqueda asistida por IA.

Google muestra más descripciones generales de IA para consultas de salud

Los resultados tradicionales, a menudo denominados "diez enlaces azules", eran útiles para los usuarios, ya que les permitían distinguir entre fuentes médicas fiables y enlaces de pago o sitios web menos fiables. Con AI Overviews, la situación ha cambiado. Ahora, un solo bloque de texto muestra información obtenida de diferentes fuentes, lo que, según los analistas, genera confusión.

Kate Knibbs de Wired dijo en un podcast:

Si buscas algo sobre asma, si tengo diabetes o cualquier otra enfermedad, es muy probable que a día de hoy veas una visión general de la IA. Es decir, no todos los usuarios; sigue siendo alrededor del 63 %. Y creo que depende

Algunos médicos, como el Dr. Dariush Mozaffarian, dicen que las visiones generales de IA muestran algunos hechos que son correctos y los resumen en respuestas, pero no diferencian entre la evidencia de los estudios observacionales y los ensayos aleatorios.

Se añade otra capa de desinformación cuando el artículo confunde la información. Por ejemplo, «El té verde contiene antioxidantes y ayuda a prevenir el cáncer». Si bien lo primero es cierto, lo segundo no ha sido clínicamente probado. Al presentar estas afirmaciones juntas, dan la falsa impresión de ser creíbles.

Google ha restringido las vistas generales de IA

Quienes siguen de cerca el despliegue de la IA recomiendan precaución al consultar los resultados de búsqueda relacionados con la salud. Señalan que los usuarios deben tener en cuenta la letra pequeña que aparece en algunas respuestas, donde se indica: «Esto es solo para fines informativos». El informe destacó que la IA generativa se encuentra en fase experimental y que los usuarios deben consultar a un médico ante cualquier afección grave. 

Lea también: Las actualizaciones del algoritmo principal de Google y las revisiones de IA están reduciendo el tráfico de los editores.

En un comunicado del 30 de mayo, Google afirmó haber reducido el uso de las vistas generales de IA en algunas categorías. Datos de la empresa de SEO Brightedge corroboran la postura de Google, sugiriendo que la reducción había comenzado incluso antes del anuncio de la compañía. 

Otros informes también indican que Google comenzó a retirar las vistas generales de IA para ciertas categorías incluso antes de que los internautas comenzaran a burlarse de él por respuestas absurdas. No obstante, se afirma que la categoría de salud sigue mostrando una gran cantidad de vistas generales de IA. Knibbs afirma:

Hablé con otros investigadores de SEO que también descubrieron que el sector sanitario seguía generando muchas descripciones generales de IA

Knibbs afirma que probó algunas consultas relacionadas con la salud y obtuvo resultados diferentes a las pocas horas, lo que demuestra que Google está trabajando para mejorar los resultados. Dijo: lo están defiintentando».

Reportaje Cryptopolitan de Aamir Sheikh