Google limita las vistas generales de IA para consultas satíricas y sin sentido

Google está reduciendo la presentación de las vistas generales de IA en algunos resultados de búsqueda. La decisión se tomó después de que el gigante de las búsquedas cometiera errores que se hicieron públicos y generaron una reacción negativa en internet.

El jueves, Liz Reid, directora de Búsqueda de Google, admitió que la compañía estaba limitando los resúmenes generados por IA, llamados "Resumen de IA". Esta función, impulsada por IA, fue criticada cuando empezó a mostrar contenido que animaba a la gente a comer piedras y a pegar queso a la pizza.

Lea también: Google, OpenAI y otras 13 empresas se comprometen a no implementar modelos de IA riesgosos

Google comenzó a mostrar Resumenes de IA a sus usuarios en Estados Unidos hace dos semanas, tras su evento anual I/O, durante el cual presentó varias ofertas basadas en IA. A partir del jueves, los usuarios notaron menos preguntas, lo que resultó en una respuesta de IA.

dentde descripciones generales de IA falsas requiere un análisis cuidadoso

Reid escribió en una entrada de blog que en redes sociales se compartieron capturas de pantalla de IA Overviews que sugerían soluciones inusuales. Añadió que la IA de la compañía cometía algunos errores, pero muchos eran falsos y nunca fueron generados por el sistema de IA de Google.

Admitió que, sin duda, aparecieron algunas descripciones generales de IA extrañas o inexactas. Resaltó las áreas donde la función necesita mejorarse, pero no son consultas de búsqueda comunes. Señalando las falsas, dijo:

Por otra parte, se ha compartido ampliamente una gran cantidad de capturas de pantalla falsas. Algunos de estos resultados falsos han sido obvios y absurdos

Reid afirmó que Google no mostró ninguna visión general de IA sobre temas como fumar durante el embarazo o dejar perros en el coche. Animó a los usuarios que vieron esas capturas de pantalla en redes sociales a buscarlas y comprobarlo.

La IA de Google ahora puededentcontenido satírico

Googledentque el contenido satírico y las consultas sin sentido eran áreas que debían abordarse para generar descripciones generales de IA inexactas. Google afirmó que antes de que las capturas de pantalla de la consulta "¿Cuántas rocas debería comer?" se hicieran virales, nadie se había planteado la pregunta. Reid indicó que se puede consultar Google Trends para confirmarlo.

Lea también: Opera integra los modelos Gemini de Google para mejorar la IA del navegador Aria.

Otro factor es la escasez de contenido disponible sobre un tema específico, lo que se conoce como vacío de datos, lo que también explica la inexactitud de las descripciones generales de IA. Respecto a la consulta sobre la devoración de rocas, Reid afirmó que la naturaleza satírica del contenido motivó la publicación de la Descripción General de IA. El contenido también fue republicado por un sitio web de software geológico, al que se enlazaba la Descripción General de IA. Aclaró:

“Entonces, cuando alguien introdujo esa pregunta en la Búsqueda, apareció una descripción general de IA que enlazaba fielmente a uno de los únicos sitios web que abordaban la pregunta”

Reid no mencionó las otras visiones generales de IA que circulaban en redes sociales, y muchas grandes editoriales también publicaron informes al respecto. Por ejemplo, The Washington Post publicó un artículo sobre Google informando a la gente de que Barack Obama era musulmán. La publicación también informó de otro caso en el que Google AI Overview le indicó a un usuario que las personas debían beber orina para ayudar a expulsar los cálculos renales.

Google tiene una obsesión con los foros públicos

La directora de búsqueda de Google señaló que la compañía realizó pruebas exhaustivas de la función antes de lanzarla al público. También admitió que es difícil simular las prácticas de uso reales durante la fase de prueba, pero la compañía realizó un riguroso trabajo en equipo y un muestreo de consultas típicas de los usuarios. 

Lea también: La función de resumen de IA de Google recibe críticas por resultados inexactos.

Algunos usuarios y analistas de contenido de internet observan que Google ha comenzado recientemente a mostrar muchos resultados de foros públicos como Reddit. Algunos cuestionan el acuerdo de la compañía con Reddit, pero un portavoz de Google declaró a la BBC que no se incluyeron tales términos en el acuerdo para dar a Reddit mayor visibilidad en los resultados de búsqueda.

Lily Ray,dent de estrategia e investigación SEO de la agencia de marketing Amsive, afirma que ahora muchas consultas muestran resultados de Reddit. También se burló de Google en una publicación de X (anteriormente Twitter), afirmando que todo el conocimiento mundial (el contenido de Reddit) se combina con IA.

Damas y caballeros, todo el conocimiento del mundo, combinado con el poder de la IA y un troll de Reddit. pic.twitter.com/jhzT2pGXjh

— Lily Ray 😏 (@lilyraynyc) 21 de mayo de 2024

Reid comentó que, en algunos ejemplos, las Reseñas de IA presentan contenido sarcástico de foros de discusión. Añadió que los foros son una buena fuente de información de primera mano, pero en algunos casos pueden generar respuestas poco útiles, como pegar queso a la pizza.

La IA de Google también malinterpreta el lenguaje, lo que genera información errónea en las descripciones generales de IA, pero la proporción de este tipo de respuestas es muy baja, según la empresa. Reid señaló que solucionaron los problemas rápidamente mediante mejoras o eliminando las respuestas que no cumplían con la política de Google.

La vicepresidenta de Búsqueda de Google también afirmó quetronmedidas de seguridad para temas como la salud y las noticias. La compañía ha implementado nuevas mejoras en los sistemas de detección para optimizar la calidad de las recomendaciones de salud. Reid indicó que el sistema de detección también se ha actualizado para evitar que las consultas sin sentido aparezcan como resúmenes de IA. Asimismo, insinuó que se reducirá el número de resúmenes de IA para consultas satíricas, declarando: «Hemos actualizado nuestros sistemas para limitar el uso de contenido generado por el usuario en respuestas que podrían ofrecer consejos engañosos».

Reportaje Cryptopolitan de Aamir Sheikh