Il Kazakhstan lancerà il suo primo modello linguistico di grandi dimensioni

Il 16 dicembre il Kazakhstan compirà un enorme passo tecnologico in avanti lanciando il suo primo modello linguistico di grandi dimensioni (LLM) chiamato KazLLM. Questo lancio coincide con il 33° anniversario dell'indipendenza del paese.

Leggi anche: L'IA generativa dà vita ai NPC nei videogiochi

L'Istituto di Sistemi Intelligenti e Intelligenza Artificiale (ISSAI) ha annunciato questo durante la loro briefing all'Università Nazarbayev il 18 luglio. La raccolta dei dati del progetto è iniziata a marzo e il modello viene addestrato utilizzando una piattaforma di cloud computing fornita con nodi NVIDIA H100.

Studenti ed esperti uniscono le forze nello sviluppo dell'IA

Studenti dell'Università Nazarbayev, studenti dell'Università IT di Astana, laureati della borsa di studio Bolashak e partecipanti locali stanno collaborando al progetto KazLLM. L'obiettivo principale di questa iniziativa è creare KazLLM e formare una forza lavoro capace di produrre strumenti e applicazioni di IA intelligenti.

Il divario tecnologico con altri paesi è ciò che il fondatore e direttore dell'ISSAI, Professor Atakan Varol, vuole colmare attraverso questo progetto. Ha dichiarato che, una volta completato, il Kazakhstan sarà indietro di soli 18 mesi in termini tecnologici rispetto alle nazioni leader. L'integrazione delle funzionalità vocali dovrebbe ridurre questo divario a 12 mesi, mentre ulteriori avanzamenti nei modelli di visione linguistica potrebbero mettere il Kazakhstan in prima linea nello sviluppo dell'IA.

Articoli di Wikipedia, testate giornalistiche, siti web governativi e dataset aperti come Common Crawl sono alcune delle fonti da cui si ottengono i dati per il progetto. Da oltre cinque anni, l'ISSAI sta creando vari dataset di elaborazione del linguaggio naturale specificamente progettati per la lingua kazaka. Questa vasta raccolta di dataset è molto importante poiché aiuta ad addestrare KazLLM in modo efficace e accurato.

Il Kazakhstan spera di affrontare la sicurezza nazionale e delle informazioni con l'innovazione dell'IA

Il progetto KazLLM ha implicazioni per la sicurezza nazionale e delle informazioni. Il Kazakhstan spera di minimizzare la propria dipendenza dalla tecnologia straniera che potrebbe risultare in violazioni dei dati e nella presentazione di informazioni distorte, creando un modello linguistico prodotto localmente.

Madina Abdrakhmanova, Vice Direttrice per le Relazioni Esterne e Lead Data Scientist, ha evidenziato l'ampio corpus di addestramento del modello. «Sarà composto da un minimo di 100 miliardi di token nelle lingue kazaka, russa, inglese e turca, con ciascuna lingua rappresentata da 25 miliardi di token», ha dichiarato la direttrice.

Attualmente, il progetto ha più di 30 miliardi di token, inclusi 26 miliardi di token prodotti tramite il traduttore Tilmash che converte i dati dall'inglese al kazako. Questa capacità di traduzione garantisce che il modello possa generare testo coerente e accurato in lingua kazaka.

Leggi anche: OpenAI va leggero, rilascia un modello AI più economico chiamato GPT-4o mini

L'ISSAI intende creare un'interfaccia user-friendly per KazLLM, simile a quella dei modelli di OpenAI, per renderlo più accessibile. Una volta completato, sarà in grado di supportare l'interazione con il modello, l'apprendimento per rinforzo dal feedback umano e la regolazione per diverse situazioni per massimizzare le prestazioni. KazLLM sarà offerto come pacchetto di abbonamento generale e come API per utenti esperti.