Google limita las vistas previas de IA para consultas satíricas y sin sentido

Google está reduciendo la presentación de Resúmenes de IA en algunos resultados de búsqueda. La decisión llegó después de que el gigante de la búsqueda cometiera algunos errores publicitados que generaron una reacción negativa pública en internet.

El jueves, Liz Reid, directora de Google Search, admitió que la empresa estaba limitando los resúmenes generados por IA llamados «Resúmenes de IA». La función impulsada por IA fue criticada cuando comenzó a mostrar contenido que le decía a la gente que comiera rocas y pegara queso en su pizza.

También lea: Google, OpenAI y otras 13 empresas se comprometen a no implementar modelos de IA riesgosos

Google comenzó a mostrar Resúmenes de IA a sus usuarios en Estados Unidos hace dos semanas después de su evento I/O anual, durante el cual lanzó varias ofertas basadas en IA. A partir del jueves, los usuarios notaron menos preguntas, lo que resultó en una respuesta de IA.

Identificar Resúmenes de IA falsos requiere un análisis cuidadoso

Reid escribió en una publicación de blog que las personas en las redes sociales compartieron capturas de pantalla de Resúmenes de IA que sugerían soluciones extrañas. Dijo que la IA de la empresa cometió algunos errores, pero muchos eran falsos y nunca fueron generados por el sistema de IA de Google.

Admitió que ciertamente aparecieron algunos Resúmenes de IA extraños o inexactos. Destacó las áreas donde la función necesita ser mejorada, pero no son consultas comúnmente buscadas. Señalando los falsos, dijo:

«Por separado, ha habido un gran número de capturas de pantalla falsas compartidas ampliamente. Algunos de estos resultados falsos han sido obvios y tontos.»

Reid dijo que Google no mostró ningún Vistas Previas de IA para temas como fumar durante el embarazo o dejar perros en los coches. Animó a los usuarios que vieron esas capturas de pantalla en las redes sociales a buscar ellos mismos y verificar.

La IA de Google ahora puede identificar contenido satírico

Google identificó que el contenido satírico y las consultas sin sentido eran áreas que necesitaban ser abordadas para producir Resúmenes de IA inexactos. Google dijo que antes de que las capturas de pantalla de la consulta «¿Cuántas rocas debo comer?» se hicieran virales, nadie hizo esa pregunta. Reid dijo que Google Trends se puede ver para confirmar.

También leer: Opera integra los modelos Gemini de Google para mejorar la IA del navegador Aria

Otro factor es que hay muy poco contenido disponible sobre un tema específico, también conocido como vacío de datos, lo que también es una razón para Resúmenes de IA inexactos. Con respecto a la consulta de comer rocas, Reid dijo que la naturaleza satírica del contenido activó el Resumen de IA. El contenido también fue republicado por un sitio web de software geológico, al que el Resumen de IA enlazó. Aclaró:

«Así que cuando alguien puso esa pregunta en Search, apareció un Resumen de IA que enlazaba fielmente a uno de los únicos sitios web que abordaba la pregunta.»

Reid no mencionó los otros Resúmenes de IA que circulaban en las redes sociales, y muchos grandes editores también publicaron informes sobre ellos. Por ejemplo, The Washington Post publicó un informe sobre Google diciendo que Barack Obama era musulmán. La publicación también informó de otro caso en el que Google AI Overview le dijo a un usuario que las personas deberían orinar para ayudar a pasar los cálculos renales.

Google tiene una obsesión con los foros públicos

La jefa de búsqueda de Google señaló que la empresa probó la función extensamente antes de lanzarla al público. También admitió que las prácticas de uso del mundo real son difíciles de simular en la fase de pruebas, pero la empresa realizó un robusto red-teaming y muestreo de consultas típicas de usuarios. 

También lea: La función AI Overview de Google enfrenta críticas por resultados inexactos

Algunos usuarios y analistas de contenido de internet están notando que Google comenzó a mostrar muchos resultados de foros públicos como Reddit. Algunos cuestionan el acuerdo de la empresa con Reddit, pero un portavoz de Google le dijo a la BBC que tales términos no formaban parte del acuerdo para dar a Reddit más visibilidad en los resultados de búsqueda.

Lily Ray, vicepresidenta de estrategia e investigación de SEO en Amsive, una agencia de marketing, dice que ahora, muchas consultas muestran resultados de Reddit. También se burló de Google en una publicación en X (anteriormente Twitter), diciendo que todo el conocimiento del mundo (contenido de Reddit) se combina con IA.

Señoras y señores, todo el conocimiento del mundo, combinado con el poder de la IA y un troll de Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 19 de may. 21, 2024

Reid dijo que la función AI Overview incluye contenido sarcástico de foros de discusión en algunos ejemplos. Dijo que los foros son una buena fuente de información de primera mano, pero en algunos casos, pueden desencadenar respuestas no tan útiles, como pegar queso en la pizza.

La IA de Google también malinterpreta el lenguaje, lo que lleva a información incorrecta en los Resúmenes de IA, pero la proporción de tales respuestas es muy baja, según la empresa. Reid señaló que resolvieron los problemas rápidamente mediante mejoras o eliminando respuestas que no cumplían con la política de Google.

El VP de Google Search también dijo que existen fuertes salvaguardas para temas como la salud y las noticias. La empresa ha lanzado nuevos refinamientos de activación para protecciones de calidad mejoradas para la salud. Reid dijo que el sistema de detección también se actualiza para consultas sin sentido para no mostrarlas como resúmenes de IA. También insinuó la confirmación de menos Resúmenes de IA para consultas satíricas, diciendo: «Actualizamos nuestros sistemas para limitar el uso de contenido generado por usuarios en respuestas que podrían ofrecer consejos engañosos.»

Reportaje de Cryptopolitan por Aamir Sheikh