El preocupante aumento del contenido de IA en las búsquedas

Cuando Google indexó los resultados de infraestructura como código defectuosos producidos por Pulumi AI, un desarrollador de IA que utiliza un chatbot para crear plantillas, vimos que estas entidades artificiales aparecían en la parte superior de los resultados de Google.

El auge del contenido de IA

Esta saga de "Pullumi" busca "escribir los resultados de una entrada rápida de sus usuarios, que se mostrará en su subsitio de Respuestas de IA". Las respuestas de los robots son indexadas por los rastreadores de Google, principalmente porque las respuestas de IA suelen ser incorrectas.

Arian van Putten citó a los desarrolladores diciendo "Ha sucedido" en su publicación en redes sociales del fin de semana. El primer resultado de una búsqueda en Google debería ser el manual oficial de Pulumi, repleto de contenido LLM, que incluye una notificación de que el contenido generado por LLM hará alucinar la función de AWS que no existía.

Como opinó el Registrador en 2022, el contenido generado por IA ha estado presente, lo que ha puesto en duda su calidad. Este contenido se indexa más rápidamente en los motores de búsqueda y se presenta como el contenido principal en los resultados de búsqueda. 

Las respuestas en línea, que respaldan la funcionalidad y el contenido de Pulumi AI y su repositorio de Respuestas de IA, son otro tipo de datos que ilustra el diseño. La infraestructura, como código habilitado por herramientas como Pulumi, genera el resultado de la IA, y el rastreador de búsqueda de Google lo indexa y lo presenta a los usuarios junto con enlaces al contenido del sitio web creado por personas. Esta documentación y los fragmentos de código creados por un sistema de IA contribuyeron a que otros desarrolladores descubrieran que muchos sistemas habían generado resultados inexactos o, peor aún, no funcionales.

Preocupaciones sobre el ranking de búsqueda

El problema ocurrió el 21 de marzo de 2024, y Pete Nykänen lo descubrió y lo publicó en un hilo de incidencias de GitHub dedicado a Pulumi AI. «Recientemente, estaba buscando palabras clave relacionadas con infraestructura en Google. Vi una tendencia preocupante: las respuestas de Pulumi AI se clasifican primero y se muestran en la página de resultados de Google, independientemente de si se les ha hecho la pregunta alguna vez. Esto incluso se extiende a varias consultas, así que estoy seguro de que el problema empeorará con el tiempo». Nicky le dijo a The Register en un correo electrónico que comenzó a notar problemas de búsqueda de Pulumi AI.

El CEO señaló: “Los ingenieros pasamos mucho tiempo buscando respuestas en línea, y no pude evitar detectar la IA en la parte superior de los resultados de búsqueda por la noche para palabras clave que no estaban relacionadas ni con Pulumi ni con la IA en sí” 

Nykänen sostuvo que la IA actualmente ocupa los primeros puestos en las búsquedas. Dado que cada vez más empresas crean programas de generación de contenido, la participación de los profesionales de IA en el trabajo real es importante y podría afectar negativamente la confiabilidad de la web. 

Otro papel que jugó AI en la documentación fue que, aunque AI Answers cubría más de la mitad (casi dos tercios) de los temas sobre el uso de los servicios, Aaron Friel, un ingeniero de IA en Pulumi, sugirió que se cancelarían las nuevas AI Answers. 

Verificación de calidad

Friel mencionó que las API Pages son otra iniciativa donde Pulumi habla sobre casos reales o documentos relacionados con el desarrollo ascendente. Google aún no sabe que, después de un mes, probaron el código de salida y lo agregaron a la lista de tareas pendientes. El lunes, The Register utilizó la palabra clave "Aws light sail x-ray" y Pulumi AI arrojó un resultado cercano al segundo lugar. El martes de la semana siguiente, cuando ingresaron las mismas palabras clave en el motor de búsqueda, nos sorprendió y se posicionó en primer lugar en la página, incluso por encima de la documentación oficial de AWS.

Consultaron a Google sobre su opinión respecto a la situación actual, y un representante de Google dijo que "la empresa siempre se esfuerza por mostrar la información de la más alta calidad, pero en algunos temas específicos de la lista de búsqueda, puede que no haya contenido de alta calidad disponible en la web para ocupar el primer puesto".

El gigante de las búsquedas afirmó además que sus políticas se basan en el hecho de que "el material de baja calidad que se produce a gran escala con el único propósito de generar spam en las clasificaciones de búsqueda se considera spam" y que la tecnología recientemente mejorada apunta al 45% de ese contenido poco original y completamente inútil en las búsquedas.

Bing, el motor de búsqueda de Microsoft, encontró un ejemplo de una página de Wikipedia en segundo plano para esta misma consulta. Aunque no hubo ningún problema con el material generado por IA, los resultados contenían un botón de chat que aparecía si se caía en la trampa y se hacía clic en él. Brave Against también omitió la respuesta de la IA de Pulumi. 

Según DuckDuckGo, el resultado de Pulumi AI apareció como el cuarto en su SERP (página de resultados del motor de búsqueda) para la consulta "¿Qué se necesita para fabricar productos con inteligencia artificial?". Duffy afirmó que la calidad del código de Pulumi se había probado y mejorado con el tiempo. La compañía observó una mejora de dos dígitos en las tasas de éxito de los ejemplos de código trimestralmente.