El nuevo método de Alibaba reduce los costes de búsqueda de IA en casi 90%

Alibaba Group Holding afirma haber encontrado una forma de reducir los costes de entrenamiento de modelos de inteligencia artificial centrados en la búsqueda en casi un 90 por ciento.

En un documento publicado en el servidor arXiv la semana pasada, los investigadores de la empresa tecnológica china describen “ZeroSearch”, un atajo de entrenamiento que permite a los modelos de lenguaje grandes mejorar sus habilidades de búsqueda a una fracción del coste.

Alibaba argumenta que el enfoque elimina uno de los pasos más costosos en el aprendizaje por refuerzo: enrutar decenas de miles de consultas a través de interfaces de programación de aplicaciones (API) de pago.

ZeroSearch aprovecha estos cuellos de botella. Un modelo de referencia que ya posee una amplia base de conocimientos actúa como un motor de búsqueda sustituto, produciendo tanto documentos útiles como deliberadamente ruidosos para cada consulta. Los modelos más nuevos se entrenan luego con esos documentos ruidosos creados por sí mismos.

El ajuste fino comienza con preguntas claramente redactadas y respuestas limpias. Con el tiempo, un “despliegue curricular” añade desorden, errores tipográficos y contradicciones para que el modelo en entrenamiento experimente algo más cercano a la internet abierta.

Según el artículo, el ruido en los datos fortalece el razonamiento y enseña al sistema a sobrevivir en entornos de datos desordenados. “Nuestra idea clave es que los LLM han adquirido extensos conocimientos del mundo durante el preentrenamiento a gran escala y son capaces de generar documentos relevantes dada una consulta de búsqueda”, explican los investigadores.

Los equipos no tienen que pagar a proveedores externos por cada consulta. El cambio es especialmente significativo para los equipos más pequeños que tienen recursos limitados. Por ejemplo, enviar 64.000 consultas a Google a través de una API puede costar unos 586,70 dólares estadounidenses. Ejecutar el mismo entrenamiento con un modelo de 14 mil millones de parámetros modelos de IA costó aproximadamente US$70.80, un ahorro del 88 por ciento.

ZeroSearch de Alibaba no requiere hardware adicional

ZeroSearch, argumenta el equipo, no añade demandas de hardware extra. Se basa en el ajuste fino supervisado estándar, por lo que las necesidades de computación en la nube se mantienen dentro del rango de los presupuestos de desarrollo típicos.

El artículo ya ha llamado la atención dentro de los círculos académicos de aprendizaje automático. Los observadores de la industria dicen que los ahorros podrían influir en los próximos ciclos presupuestarios durante el próximo año financiero.

Los rivales de la industria han estado compitiendo para recortar los costes de entrenamiento de modelos de lenguaje grandes mientras impulsan nuevos productos de IA generativa.

La nueva función de Alibaba llega mientras las empresas chinas compiten con empresas estadounidenses como Google y OpenAI, ambas de las cuales han invertido fuertemente en agentes de IA. Al reportar una reducción de costes casi diez veces mayor, Alibaba señala que el coste de la búsqueda de IA podría cambiar pronto.