O novo método da Alibaba reduz os custos de busca por IA em quase 90%

O Alibaba Group Holding afirma ter encontrado uma maneira de reduzir os custos de treinamento de modelos de inteligência artificial focados em buscas em quase 90%.

Em um artigo publicado no servidor arXiv na semana passada, pesquisadores da empresa de tecnologia chinesa descrevem o “ZeroSearch”, um atalho de treinamento que permite que grandes modelos de linguagem aprimorem suas habilidades de busca a um custo muito menor.

A Alibaba argumenta que essa abordagem elimina uma das etapas mais caras do aprendizado por reforço: o roteamento de dezenas de milhares de consultas por meio de interfaces de programação de aplicativos (APIs) pagas.

O ZeroSearch aproveita esses gargalos. Um modelo de referência que já possui uma ampla base de conhecimento atua como um mecanismo de busca substituto, produzindo documentos úteis e também documentos propositalmente ruidosos para cada consulta. Novos modelos são então treinados com esses documentos ruidosos criados pelo próprio modelo.

O refinamento começa com instruções claras e respostas concisas. Com o tempo, uma "implementação gradual do currículo" adiciona elementos desnecessários, erros de digitação e contradições, de modo que o modelo de treinamento proporcione uma experiência mais próxima da internet aberta.

De acordo com o artigo, o ruído nos dados fortalece o raciocínio e ensina o sistema a sobreviver em ambientes de dados complexos. "Nossa principal descoberta é que os LLMs adquiriram amplo conhecimento de mundo durante o pré-treinamento em larga escala e são capazes de gerar documentos relevantes a partir de uma consulta de busca", explicam os pesquisadores.

As equipes não precisam mais pagar provedores externos para cada consulta. Essa mudança é especialmente significativa para equipes menores com recursos limitados. de 14 bilhões de parâmetros modelo de IA custou aproximadamente US$ 70,80, uma economia de 88%.

O ZeroSearch da Alibaba não requer hardware adicional

A equipe argumenta que o ZeroSearch não adiciona demandas extras de hardware. Ele se baseia em ajuste fino supervisionado padrão, portanto, as necessidades de computação em nuvem permanecem dentro do alcance dos orçamentos de desenvolvimento típicos.

O artigo já despertou interesse nos círculos acadêmicos de aprendizado de máquina. Observadores do setor afirmam que a economia gerada poderá influenciar os próximos ciclos orçamentários no próximo ano fiscal.

Os concorrentes do setor têm se empenhado em reduzir os custos do treinamento de grandes modelos de linguagem, enquanto impulsionam novos produtos de IA generativa.

A nova funcionalidade da Alibaba surge num momento em que as empresas chinesas competem com empresas americanas como o Google e a OpenAI, ambas com grandes investimentos em agentes de IA. Ao anunciar uma redução de custos de quase dez vezes, a Alibaba sinaliza que o preço das buscas com IA poderá mudar em breve.