Meta ha finalmente confermato il rilascio di Llama 3. In un evento a Londra, Meta ha fornito alcuni dettagli e i tempi di rilascio del suo modello di intelligenza artificiale avanzata. I dirigenti di Meta hanno affermato che presto rilasceranno la prossima versione del loro modello di linguaggio di grandi dimensioni open source, come riportato da Techcrunch.
Si prevede che Meta rilascerà prima una versione ridotta di Llama 3 e poi un modello open source completo, ha affermato The Information. Ma perché una versione ridotta in primo luogo? Riteniamo che l'affermazione di The Information abbia senso, poiché ciò fornirà l'opportunità di creare un po' di entusiasmo sulle capacità del modello completo.
Cosa sappiamo di Llama 3 e della sua uscita
Il rilascio di Llama 3 sfiderà il predominio del gigante LLM GPT 4, poiché si prevede che sarà l'LLM più avanzato nella categoria open source e sarà disponibile in diversi modelli come Llama 2. Nick Clegg,dent degli affari globali di Meta, ha affermato all'evento:
"Entro il prossimo mese, in realtà meno e auspicabilmente in un periodo di tempo molto breve, speriamo di iniziare a distribuire la nostra nuova suite di modelli di fondazione di nuova generazione, Llama 3."
La dichiarazione di Clegg suggerisce chiaramente la disponibilità di diverse versioni di Llama 3, come ha poi aggiunto:
"Nel corso di quest'anno verranno lanciati diversi modelli con diverse capacità e diverse versatilità, a partire da molto presto."
fonte: Techcrunch
A proposito di The Information, sembra tutto vero, vero? Quindi, ora sappiamo che Llama 3 sarà disponibile in diverse versioni e dimensioni, da piccole a molto grandi, con modelli completamente funzionanti che vanno da Haiku, Claude e Gemini Nano a colossi come GPT 4. Non sappiamo di più, ma sappiamo con certezza che sarà open source, come Llama 2 e Multimodel, con la capacità di comprendere testi e immagini.
I critici confrontano i modelli open source con quelli chiusi
Llama è un modello open source, ma non è destinato a scomparire. Sappiamo che Meta e le sue risorse godono di untronsupporto, e Meta vuole sfruttare sviluppatori e ricercatori terzi. Tuttavia, nonostante tutti i favoritismi verso i modelli open source, alcuni critici sono ancora scettici sulla loro competenza rispetto a modelli privati come GPT 4. Hanno le loro ragioni per sostenere la loro opinione sulla questione.
La discussione parte dalle risorse necessarie per creare enormi set di dati per i modelli di training, sostenendo che modelli come ChatGPT hanno una struttura di dataset enorme con dati taggati da esseri umani. Naturalmente, nessuna macchina può ancora eguagliare le capacità umane, ma ci stiamo avvicinando a questo obiettivo? Forse sì, forse no, nei prossimi due anni. Un altro motivo è la disponibilità. Sebbene questo sia un punto valido, nella storia della tecnologia abbiamo visto che le startup più piccole a volte superano le grandi aziende su alcune funzionalità chiave con le loro soluzioni pronte all'uso. Ma la realtà è che OpenAI ospita ingegneri con stipendi superiori al milione di dollari.
Un altro punto che sollevano riguarda il framework del team: la tesi è che un approccio decentralizzato open source non possa eguagliare i risultati dei team centralizzati. Anche l'infrastruttura cloud pubblica non è all'altezza di quelle vantate da OpenAI e Google, il che impedisce ai team open source di apportare miglioramenti incrementali a un ritmo sostenuto. Nel complesso, queste sono ragioni sufficienti a sfavore dei sistemi open source. Ma, come sappiamo, nonostante Llama sia open source, dietro c'è Meta, che lo supporta allocando enormi risorse.
Meta-investimento nelle GPU
A gennaio, Mark Zuckerberg ha dichiarato che stanno costruendo un'imponente infrastruttura di calcolo con 350.000 nuove GPU H100 e, se si includono altre GPU, quasi 600.000 H100 saranno a bordo. Mark lo ha annunciato in un video. Si tratterà di una potenza di calcolo molto superiore a quella di OpenAI, utilizzata per addestrare GPT 4. L'investimento ammonta a miliardi di dollari solo per l'intelligenza artificiale.
Llama 3 alimenterà l' assistente Meta AI e sarà integrato in una serie di prodotti nell'intera gamma di app dell'azienda. Llama 3 sfiderà il dominio di GPT 4? Considerando i trac del suo predecessore, Llama 2, si può dire che è stato la spina dorsale dei più avanzati LLM open source, come il francese Mistral e alcuni altri, che sono stati sviluppati modificandolo e ottimizzandolo.
Alcuni di essi hanno addirittura superato le prestazioni di GPT 3.5, quindi possiamo supporre che Llama 3, con le sue funzionalità avanzate, verrà utilizzato per nuovi prodotti LLM che eguaglieranno o supereranno le prestazioni di GPT 4 con costi di formazione condivisi e ridotti, consentendo l'adesione di più persone.
La competizione sarà molto dura, con la comunità open source che cercherà di innovare su LLama 3 e di proporre soluzioni native come in passato, e OpenAI che rilascerà GPT 5 nei prossimi mesi. Siamo ammirati per il periodo interessante che ci attende.
