La función AI Overview de Google enfrenta críticas por resultados inexactos
La función de Resumen de IA de Google enfrenta críticas por resultados inexactos
- La función de Resumen de IA de Google ha sido ampliamente criticada por generar resultados absurdos o incorrectos para las consultas de búsqueda.
- Los usuarios han publicado numerosos casos en los que los resúmenes generados por la IA produjeron respuestas ilógicas o erróneas ante diferentes búsquedas.
- La controversia en torno al Resumen de IA es similar a los problemas del herramienta de generación de imágenes Gemini de Google.
La recientemente lanzada función «AI Overview» (Resumen de IA) de Google Search ha encontrado una fuerte crítica. Los usuarios han publicado numerosos casos en los que los resúmenes de IA generaron una respuesta ilógica o incorrecta a diferentes búsquedas, sin posibilidad de desactivar el servicio.
También lea: Nuevas extensiones de Chrome apuntan a mejorar la experiencia de búsqueda de Google
Los ejemplos recientes han incluido consejos dudosos sobre prácticas culinarias y recomendaciones de salud, lo que ha provocado una ola de críticas y burlas en las redes sociales.
Los usuarios exponen las respuestas defectuosas de AI Overview
La nueva función, AI Overview, se lanzó hace menos de dos semanas y fue diseñada para ofrecer resúmenes breves de las preguntas planteadas. Por ejemplo, una búsqueda sobre cómo limpiar botas de cuero podría proporcionar instrucciones extraídas de diferentes sitios web. Sin embargo, los usuarios han informado de que la herramienta puede proporcionar recomendaciones incorrectas y potencialmente peligrosas.
También lea: ¿El nuevo buscador con IA de Google dañará el tráfico web, preocupando a los editores?
Otro error cometido por la IA fue afirmar que «Estados Unidos ha tenido un presidente musulmán, Barack Hussein Obama», cuando se le preguntó cuántos presidentes musulmanes ha tenido EE. UU.
Otro consejo que podría potencialmente llevar a daños graves fue el uso de pegamento en la preparación de la salsa de pizza para evitar que el queso se deslice. Se descubrió que esta recomendación provenía de un comentario de Reddit, lo que plantea la posibilidad de que la IA estuviera obteniendo información de fuentes poco confiables.
Otras recomendaciones escandalosas incluyeron afirmar que mirar al sol es saludable y que las personas deberían incorporar rocas a su dieta diariamente. Algunos de los problemas señalados incluyen errores simples como la enumeración incorrecta de frutas y cálculos erróneos de fechas históricas.
La atribución errónea mancha a fuentes creíbles
AI Overview también ha sido criticado por citar incorrectamente fuentes confiables con información errónea. Por ejemplo, afirmó:
«Según WebMD, los científicos dicen que mirar al sol durante 5-15 minutos, o hasta 30 minutos si tienes la piel más oscura, es generalmente seguro y proporciona los mayores beneficios para la salud.»
Tales atribuciones erróneas pueden dañar la reputación de instituciones muy estimadas y son potencialmente peligrosas para el público en general. Cuando se le preguntó si Google Search viola la ley antimonopolio, AI Overview dijo:
«Sí, el Departamento de Justicia de EE. UU. y 11 estados están demandando a Google por violaciones antimonopolio.»
La portavoz de Google, Meghann Farnsworth, dijo que los errores provenían de «consultas generalmente muy poco comunes y no representan la experiencia de la mayoría de las personas». Dijo que los errores estaban en consultas raras y afirmó que la empresa está trabajando activamente para corregir las violaciones de las políticas de contenido. Incluso con estas garantías, la reacción negativa plantea preguntas sobre los problemas más amplios de la creciente adopción de tecnologías de IA.
Surgen paralelismos con el fiasco de la herramienta de generación de imágenes Gemini
La controversia en torno a AI Overview es similar a los problemas que enfrentó la herramienta de generación de imágenes Gemini de Google poco después de su lanzamiento en febrero debido a las mismas interpretaciones erróneas y resultados dudosos. Algunos de los problemas destacados incluyeron representaciones falsas de la historia y bocetos no aptos para el uso, lo que llevó a Google a detener la operación de la herramienta y trabajar en mejoras.
La competencia en el espacio de la IA generativa es feroz debido a la presencia de jugadores como Google, Microsoft y Open AI. Se prevé que el mercado de herramientas y agentes de inteligencia artificial alcance un tamaño de más de un billón de dólares estadounidenses en la próxima década. Esta intensa competencia puede llevar al uso de tecnologías inmaduras en el mercado debido a la presión por lanzar nuevos productos.
También lea: Google, OpenAI y otras 13 empresas se comprometen a no desplegar modelos de IA riesgosos
Google es el motor de búsqueda más popular del mundo y esto lo hace muy vulnerable a las críticas. Actualmente, el motor de búsqueda de la empresa domina más del 90 % de la cuota de mercado global, lo que significa que su efectividad es decisiva para la satisfacción de los usuarios y el modelo de negocio de la empresa.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
