Il nuovo arrivato Mixtral 8x7B sfida i migliori modelli di IA con prestazioni impressionanti

Nel panorama in rapida evoluzione dell'intelligenza artificiale, un giocatore relativamente nuovo è emerso sulla scena, causando scalpore nel mondo tecnologico. Mixtral 8x7B, sviluppato dall'azienda francese di intelligenza artificiale Mistral AI, sta attirando l'attenzione con il suo approccio unico e le impressionanti capacità. Questo articolo approfondisce ciò che rende Mixtral 8x7B unico e perché sta creando un buzz nella comunità dell'IA.

Mixtral 8x7B: un punto di svolta

Mentre il mondo tecnologico era affascinato dall'aggiornamento di Gemini di Bard, Mixtral 8x7B è entrato silenziosamente nella mischia. Ciò che lo distingue è il suo utilizzo di una Mixture of Experts (MoE) per generare risposte simili a quelle umane. Questo approccio differisce significativamente da modelli come ChatGPT e Google Bard. Degno di nota, Mixtral 8x7B vanta un formidabile modello da 46,7 miliardi di parametri, ma richiede solo una frazione delle risorse hardware.

Le prestazioni di Mixtral 8x7B non vanno sottovalutate. Si misura con sicurezza o addirittura supera il rinomato modello GPT-3.5 di ChatGPT e il modello Llama 2 70B di Meta. Questo modello open-source è concesso in licenza con Apache 2.0, consentendo a chiunque di accedervi e utilizzarlo. Non è confinato a una singola lingua, poiché può funzionare senza problemi in inglese, francese, italiano, tedesco e spagnolo. Inoltre, possiede la capacità di generare codice.

Incontra Mistral AI – Il cervello dietro la rivoluzione dell'IA

Mistral AI, il cervello dietro Mixtral, è un'azienda di intelligenza artificiale francese fondata da ricercatori con esperienza precedente sia in Meta che in Google. Quest'anno, Mistral AI ha fatto scalpore ottenendo circa 450 milioni di euro di finanziamenti. Il rilascio di Mixtral 8x7B, il loro ultimo modello, è stato tutt'altro che tradizionale, con un link magnetico Torrent anonimo condiviso su Twitter.

Il vantaggio dell'architettura MoE

Mixtral impiega un'architettura MoE (Mixture of Experts) per elaborare i token in arrivo, distribuendoli a vari esperti all'interno del sistema. Ogni esperto è essenzialmente una rete neurale, e Mixtral 8x7B ne vanta otto. Questa architettura consente MoE gerarchici, dove un esperto può essere esso stesso un altro MoE. Quando un prompt viene inviato a Mixtral 8x7B, una rete di routing seleziona l'esperto più efficace per l'elaborazione di ogni token. Curiosamente, due esperti vengono scelti per ogni token e i loro output vengono combinati.

Gli MoE hanno i loro punti di forza e di debolezza. Eccellono in termini di efficienza computazionale durante il pre-addestramento, ma possono essere soggetti a overfitting durante il fine-tuning. L'overfitting, in questo contesto, si riferisce a modelli che fanno troppo affidamento sui dati di addestramento e li riproducono verbatim nelle risposte. Dal lato positivo, gli MoE offrono tempi di inferenza più rapidi poiché solo un sottoinsieme di esperti viene utilizzato durante l'inferenza. 

Tuttavia, richiedono ancora una RAM sufficiente per ospitare un modello da 47 miliardi di parametri. I 47 miliardi di parametri differiscono dai previsti 56 miliardi, poiché molti parametri sono condivisi tra gli MoE e non tutti i 7 miliardi di parametri di ogni esperto vengono moltiplicati per otto.

Facile da usare e accessibile

Una delle caratteristiche più note di Mixtral 8x7B è la sua facilità d'uso. È completamente personalizzabile dall'utente e disponibile per il deployment da chiunque disponga di un computer abbastanza potente. Gli utenti possono eseguirlo localmente utilizzando LM Studio, garantendo un controllo ottimale sul comportamento del modello. Inoltre, è possibile abilitare dei guardrail per proteggersi da contenuti potenzialmente dannosi, sebbene non siano attivati per impostazione predefinita. Questo garantisce un'esperienza di IA sicura e responsabile.

Per coloro che preferiscono non eseguire Mixtral localmente o non soddisfano i requisiti hardware, è disponibile su Hugging Face. L'implementazione di Hugging Face viene fornita con guardrail predefiniti, offrendo un'esperienza simile a quella di ChatGPT 3.5 in termini di prestazioni e gamma di query che può gestire. Mixtral 8x7B non è specializzato in un dominio specifico; è piuttosto un modello linguistico di grandi dimensioni versatile e completo.

Il futuro dell'IA generativa

Mentre la tecnologia continua a evolversi, il 2023 ha assistito a un'ondata di modelli di IA generativa. Si prevede che il panorama evolverà ulteriormente nel prossimo anno, con la possibilità del rilascio di altri modelli e miglioramenti continui. Con le voci che circolano su OpenAI e la potenziale avvento dell'Intelligenza Generale Artificiale, il mondo dell'IA è pronto per sviluppi ancora più entusiasmanti nel prossimo futuro. Mixtral è destinato a farne parte.