Il nuovo metodo di Alibaba riduce i costi della ricerca AI di quasi 90%

Alibaba Group Holding afferma di aver trovato un modo per ridurre i costi di addestramento dei modelli di intelligenza artificiale focalizzati sulla ricerca di quasi il 90 per cento.

In un documento Pubblicato sul server arXiv la scorsa settimana, i ricercatori dell'azienda tecnologica cinese descrivono "ZeroSearch", una scorciatoia di addestramento che consente ai modelli linguistici di grandi dimensioni di migliorare le proprie capacità di ricerca a una frazione del costo.

Alibaba sostiene che l'approccio elimina uno dei passaggi più costosi nell'apprendimento per rinforzo: l'instradamento di decine di migliaia di query attraverso API a pagamento.

ZeroSearch sfrutta tali colli di bottiglia. Un modello di riferimento che possiede già un ampio database di conoscenze agisce come un motore di ricerca sostitutivo, producendo documenti utili e deliberatamente rumorosi per ogni query. I modelli più recenti vengono poi addestrati su questi documenti rumorosi auto-prodotti.

Il fine-tuning inizia con prompt in parole semplici e risposte pulite. Nel tempo, un "svolgimento curricolare" aggiunge disordine, errori di battitura e contraddizioni, in modo che il modello in addestramento sperimenti qualcosa di più vicino a Internet aperto.

Secondo il documento, il rumore nei dati rafforza il ragionamento e insegna al sistema a sopravvivere in ambienti di dati disordinati. "La nostra intuizione chiave è che i LLM hanno acquisito un'ampia conoscenza del mondo durante il preaddestramento su larga scala e sono in grado di generare documenti rilevanti data una query di ricerca", spiegano i ricercatori.

I team non devono pagare fornitori esterni per ogni query. Il cambiamento è particolarmente significativo per i team più piccoli che hanno risorse limitate. Ad esempio, l'invio di 64.000 query a Google tramite API può costare circa 586,70 USD. Eseguire lo stesso addestramento con un modello da 14 miliardi di parametri modello AI costa circa US$70.80, con un risparmio del 88 per cento.

ZeroSearch di Alibaba non richiede hardware aggiuntivo

ZeroSearch, sostengono i ricercatori, non aggiunge richieste di hardware extra. Si basa sul fine-tuning supervisionato standard, quindi le esigenze di calcolo cloud rimangono nell'ambito dei budget di sviluppo tipici.

Il documento ha già attirato l'attenzione all'interno degli ambienti accademici di machine learning. Gli osservatori del settore dicono che i risparmi potrebbero influenzare i prossimi cicli di budget durante l'anno finanziario in arrivo.

I rivali del settore sono in corsa per ridurre i costi di addestramento dei modelli linguistici di grandi dimensioni mentre spingono nuovi prodotti di intelligenza artificiale generativa.

La nuova funzione di Alibaba arriva mentre le aziende cinesi competono con quelle statunitensi come Google e OpenAI, entrambe delle quali hanno investito pesantemente negli agenti AI. Segnalando una riduzione dei costi di quasi dieci volte, Alibaba indica che il costo della ricerca AI potrebbe presto cambiare.