La inquietante subida del contenido de IA en la búsqueda

- El contenido generado por IA encabeza Google a pesar de los errores.
- Más contenido de IA corre el riesgo de propagar desinformación.
- Las salidas de IA requieren revisión para evitar posibles exclusiones en los resultados de búsqueda.
A medida que Google indexaba las salidas de infraestructura como código de baja calidad producidas por Pulumi AI, un desarrollador de IA que utiliza un chatbot para crear plantillas, vimos que estas entidades artificiales aparecían en la parte superior de los resultados de Google.
El auge del contenido de IA
Esta saga de 'Pullumi' de 'escribir los resultados de una entrada de prompt de sus usuarios que se mostrarán en su subdominio de Respuestas de IA'. Las respuestas de los robots son indexadas por los rastreadores de clasificación de Google principalmente porque las respuestas de IA a menudo son inadecuadas.
Arian van Putten citó a los desarrolladores diciendo "Ha ocurrido" para su publicación en redes sociales durante el fin de semana. El primer resultado de búsqueda de Google debería ser el manual oficial de Pulumi lleno de contenido de LLM, que viene con una notificación de que el contenido generado por el LLM alucinará la función de AWS que no existía.
Como opinó el Registrador en 2022, el contenido generado por IA ha estado presente, cuestionando su calidad. El contenido generado por IA se indexa más rápidamente por los motores de búsqueda y se presenta como el contenido principal en los resultados de búsqueda.
Apoyando la funcionalidad y el contenido de Pulumi AI y su repositorio de Respuestas de IA, las respuestas en línea son otro tipo de datos que ilustra el diseño. La infraestructura como código habilitada por herramientas, como Pulumi, genera el resultado de la IA, y el rastreador de búsqueda de Google lo indexa y lo presenta a los usuarios de búsqueda junto con enlaces al contenido de sitios web escritos por humanos. Dicha documentación y fragmentos de código creados por un sistema de IA contribuyeron a que otros desarrolladores descubrieran que muchos sistemas habían producido resultados inexactos o, peor aún, no funcionales.
Preocupaciones sobre la clasificación de búsqueda
El problema ocurrió el 21 de marzo de 2024, y Pete Nykänen lo encontró y lo publicó en un hilo de GitHub Issues dedicado a Pulumi AI. "Recientemente, estaba buscando palabras clave relacionadas con infraestructura en Google. Vi una tendencia perturbadora: las respuestas de Pulumi AI se clasifican primero y se muestran en la página de resultados de Google, independientemente de si se les ha hecho la pregunta alguna vez. Esto incluso se extiende a múltiples consultas, así que estoy seguro de que el problema empeorará con el tiempo." Nicky le dijo a The Register en un correo electrónico que comenzó a notar problemas de búsqueda de Pulumi AI.
El CEO señaló: "Los ingenieros pasamos mucho tiempo buscando respuestas en línea, y no pude dejar de notar la IA en la parte superior de los resultados de búsqueda por la noche para palabras clave que no estaban relacionadas ni con Pulumi ni con la IA en sí."
Nykänen sostuvo que la IA actualmente ocupa los puestos más altos durante las búsquedas. Con más empresas continuando la creación de programas de generación de contenido, la participación de profesionales de IA en el trabajo real podría afectar adversamente la confiabilidad de la Web.
Otro papel que jugó la IA en la documentación fue que, aunque las Respuestas de IA cubrían más de la mitad (casi dos tercios) de los temas sobre el uso de los servicios, Aaron Friel, ingeniero de IA en Pulumi, sugirió que las nuevas Respuestas de IA serían terminadas.
Verificación de calidad
Friel mencionó que las Páginas de API son otra iniciativa donde Pulumi habla de casos reales o documentos relacionados con upstream. Google aún no es consciente de que, después de un mes, probaron el código de salida y lo marcaron en la lista de tareas pendientes. "Aws light sail x-ray" fue tomado como una palabra clave de búsqueda por The Register el lunes, y Pulumi AI arrojó cerca del segundo resultado. El martes de la semana siguiente, cuando ingresaron las mismas palabras clave en el motor de búsqueda, nos sorprendió y se clasificó primero en la página, incluso por encima de la documentación oficial de AWS.
Embruajaron a Google sobre sus pensamientos concerning la situación actual, y un representante de Google dijo que "la empresa siempre se esfuerza por mostrar la información de mayor calidad, pero en algunos temas estrechos de la lista de consultas, puede que no haya ningún contenido de alta calidad disponible en la web para clasificar en el número uno."
El gigante de la búsqueda afirmó además que sus políticas se basan en el hecho de que "el material de baja calidad que se produce a gran escala con el único propósito de hacer spam en las clasificaciones de Búsqueda [rankings] se considera spam" y que la tecnología recientemente mejorada apunta al 45% de dicho contenido no original/completamente inútil en Búsqueda.
El motor de búsqueda Bing de Microsoft ha encontrado un ejemplo de página de Wikipedia detrás de escenas para esta misma consulta. Aunque no había problema con el material generado por IA que el motor de búsqueda Bing tenía, los resultados que produjo contenían un botón de Chat que aparecía si caías en la trampa y hacías clic en el botón. Brave contra también había omitido la respuesta de Pulumi AI.
Según DuckDuckGo, el resultado de Pulumi AI parecía ser el cuarto en su SERP (página de resultados del motor de búsqueda) para la consulta 'Qué va en productos de inteligencia artificial'. Duffy declaró que la calidad del código para Pulumi había sido probada y mejorada con el tiempo. La empresa fue testigo de una mejora de dos dígitos en las tasas de éxito de los ejemplos de código de trimestre en trimestre.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.

James Kinoti
Entusiasta de las criptomonedas, James encuentra placer en compartir conocimientos sobre fintech, criptomonedas, así como blockchain y tecnologías de vanguardia. Las últimas innovaciones en la industria de las criptomonedas, los juegos cripto, la IA, la tecnología blockchain y otras tecnologías son su preocupación. Su misión: mantenerse al día con aplicaciones transformadoras en diversas industrias.














