La función de descripción general de IA de Google enfrenta críticas por resultados inexactos

La función "Resumen de IA" que Google lanzó recientemente en su buscador ha recibido numerosas críticas. Los usuarios han reportado varios casos en los que los resúmenes generados por IA arrojaron respuestas ilógicas o erróneas a diferentes búsquedas, sin que exista forma de desactivar el servicio. 

Lea también: Nuevas extensiones de Chrome buscan mejorar la experiencia de búsqueda de Google

Ejemplos recientes incluyen consejos dudosos sobre prácticas culinarias y recomendaciones de salud, lo que ha provocado una ola de críticas y burlas en las redes sociales.

Los usuarios exponen las respuestas defectuosas de AI Overview

La nueva función, AI Overview, se lanzó hace menos de dos semanas y se diseñó para ofrecer breves resúmenes de las preguntas formuladas. Por ejemplo, una búsqueda sobre cómo limpiar botas de cuero puede proporcionar instrucciones de diferentes sitios web. Sin embargo, algunos usuarios han informado que la herramienta puede ofrecer recomendaciones incorrectas y potencialmente peligrosas.

Lea también: ¿Perjudicará la nueva búsqueda con IA de Google el tráfico web? Esto preocupa a los editores.

Otro error cometido por AI fue afirmar que “Estados Unidos ha tenido undentmusulmán, Barack Hussein Obama”, cuando se le preguntó cuántosdentmusulmanes ha tenido Estados Unidos. 

Otro consejo que podría causar graves daños fue el uso de pegamento en la preparación de la salsa de pizza para evitar que el queso se deslice. Se descubrió que esta recomendación provenía de un comentario de Reddit, lo que plantea la posibilidad de que la IA obtuviera información de fuentes poco fiables.  

Otras recomendaciones escandalosas incluían afirmar que mirar al sol es saludable y que las personas deberían incorporar piedras a su dieta diaria. Algunos de los problemas señalados incluyen errores simples como la enumeración incorrecta de frutas y el cálculo erróneo de fechas históricas.

La atribución errónea empaña las fuentes creíbles

AI Overview también ha sido criticada por citar erróneamente fuentes confiables con información errónea. Por ejemplo, afirmó:

“Según WebMD, los científicos dicen que mirar al sol durante 5 a 15 minutos, o hasta 30 minutos si tienes la piel más oscura, generalmente es seguro y proporciona mayores beneficios para la salud”

Estas atribuciones erróneas pueden dañar la reputación de instituciones de gransteemy son potencialmente peligrosas para la población en general. Al preguntársele si la Búsqueda de Google infringe la ley antimonopolio, AI Overview respondió:

“Sí, el Departamento de Justicia de Estados Unidos y 11 estados están demandando a Google por violaciones antimonopolio”

La portavoz de Google, Meghann Farnsworth, afirmó que los errores se debieron a consultas poco comunes y que no representan la experiencia de la mayoría de los usuarios. Añadió que los errores se produjeron en consultas excepcionales y que la empresa está trabajando activamente para corregir las infracciones de las políticas de contenido. Aun con estas garantías, la reacción negativa plantea interrogantes sobre las implicaciones más amplias de la creciente adopción de tecnologías de IA.

Surgen paralelismos con el fiasco de la herramienta de generación de imágenes Gemini

La controversia en torno a AI Overview es similar a los problemas que enfrentó la herramienta de generación de imágenes Gemini de Google poco después de su lanzamiento en febrero, debido a las mismas interpretaciones erróneas y resultados dudosos. Algunos de los problemas que se destacaron incluyen representaciones falsas del historial y bocetos inadecuados, lo que llevó a Google a suspender el funcionamiento de la herramienta y a trabajar en mejoras.

La competencia en el ámbito de la IA generativa es intensa debido a la presencia de actores como Google, Microsoft y Open AI. Se prevé que el mercado de herramientas y agentes de inteligencia artificial supere el billón de dólares estadounidenses en la próxima década. Esta intensa competencia podría llevar al uso de tecnologías inmaduras en el mercado debido a la presión por lanzar nuevos productos.

Lea también: Google, OpenAI y otras 13 empresas se comprometen a no implementar modelos de IA riesgosos

Google es el motor de búsqueda más popular del mundo, lo que lo hace muy vulnerable a las críticas. Actualmente, su motor de búsqueda domina más del 90 % del mercado global, lo que significa que su eficacia es decisiva para la satisfacción de los usuarios y el modelo de negocio de la empresa.