Meta testa il suo chip di addestramento IA interno che limiterà la dipendenza da fornitori come Nvidia

Si sta rapportando che Meta stia testando il suo primo chip di addestramento IA, progettato per addestrare i sistemi IA di Meta e ridurre la dipendenza dell'azienda da fornitori terzi come Nvidia.

L'iniziativa dovrebbe anche ridurre il enorme conto infrastrutturale dell'azienda, con Meta che mira a utilizzare i propri chip interni entro il 2026, secondo fonti citate da Reuters.

Meta sta lavorando con TSMC su questo progetto

Si dice che l'azienda stia già utilizzando un chip di generazione precedente per addestrare i propri algoritmi di ranking e azione raccomandata, ma questo sarebbe il primo utilizzo per addestrare strumenti generativi come Meta AI.

Reuters ha riferito che Meta ha aperto una nuova scheda per il test del chip di produzione interna. Il gigante dei social media ha iniziato una piccola distribuzione del chip con piani di aumentare la produzione per un uso su larga scala se il test avrà successo.

I rapporti indicano che Meta sta addestrando chip IA dedicati alla gestione di compiti specifici dell'IA. Si dice che siano stati fabbricati da TSMC, con il dispiegamento di test che segue un tape-out di successo del processo finale prima che un semiconduttore venga fabbricato.

Meta ha iniziato a testare il suo primo “tape-out” del chip, un traguardo significativo nel lavoro di sviluppo del silicio che implica l'invio di un design iniziale a una fabbrica di chip.

Secondo Reuters, un tipico tape-out costa decine di milioni di dollari e richiede circa un trimestre o mezzo anno per essere completato, senza alcuna garanzia che il test abbia successo. Un fallimento richiederebbe all'azienda di diagnosticare il problema e ripetere il passaggio del tape-out.

Meta sta valutando lo sviluppo dei propri chip per ridurre la propria dipendenza dall'hardware Nvidia. Meta è rimasta uno dei maggiori clienti di Nvidia e ha accumulato una collezione di GPU per addestrare i propri modelli, inclusa la serie di modelli fondazionali Llama.

Gli analisti IA hanno espresso preoccupazione e dubbi sui progressi che possono essere ottenuti scalando continuamente i LLM aggiungendo più dati e potenza di calcolo, dubbi che sono stati rafforzati quando DeepSeek ha lanciato i suoi modelli a una frazione del costo sostenuto dai suoi concorrenti.

Segnalato per la prima volta in sviluppo nel 2023, i chip interni di Meta, soprannominati Meta Training and Inference Accelerator, sono basati su nodi da 7 nm e forniscono 102 Tops di precisione di calcolo Integer (8-bit) o 51,2 teraflops di precisione di calcolo FP16.

I chip funzionano a 800 megahertz e sono grandi circa 370 millimetri quadrati.

Questo chip è il più recente della serie MTIA dell'azienda e il programma ha avuto un inizio incerto per anni e in un certo punto ha cancellato un chip in una fase simile di sviluppo.

Meta ha mancato gli obiettivi iniziali, ritardando il lancio del chip

Meta si aspettava originariamente di lanciare i propri chip nel 2022 ma ha cancellato il piano dopo che non hanno raggiunto gli obiettivi interni, con il passaggio dalle CPU alle GPU per l'addestramento dell'IA che ha costretto l'azienda a ridisegnare i propri data center e cancellare diversi progetti.

Tuttavia, Meta lo scorso anno ha iniziato a utilizzare un chip MTIA per eseguire l'inferenza, o il processo coinvolto nell'esecuzione di un sistema IA mentre gli utenti interagiscono con esso, per i sistemi di raccomandazione che determinano quali contenuti appaiono nei feed di notizie di Facebook e Instagram.

A febbraio 2024, secondo il rapporto, l'azienda stava pianificando di distribuire la seconda generazione del chip MTIA.

L'azienda, che possiede anche Instagram e WhatsApp, ha previsto spese complessive per il 2025 di 114-119 miliardi di dollari, inclusi fino a 65 miliardi di dollari in investimenti in capitale, principalmente guidati dalle spese per l'infrastruttura di intelligenza artificiale.

I dirigenti di Meta avrebbero dichiarato di voler iniziare l'uso dei propri chip entro il 2026 per l'addestramento o il processo intensivo di calcolo di alimentazione del sistema IA con enormi quantità di dati per insegnargli come eseguire.

Come per il chip di inferenza, l'obiettivo per il chip di addestramento è iniziare con i sistemi di raccomandazione e successivamente utilizzarlo per prodotti di IA generativa come il chatbot Meta AI, hanno detto i dirigenti.

Alla conferenza Morgan Stanley su tecnologia, media e telecomunicazioni della scorsa settimana, il chief product officer di Meta, Chris Cox, ha dichiarato: “Stiamo lavorando su come faremmo l'addestramento per i sistemi di raccomandazione e poi, alla fine, su come pensiamo all'addestramento e all'Inferenza per l'IA generativa.”

Commentando gli sforzi di sviluppo dei chip di Meta, Cox li ha descritti come “una situazione di camminare, strisciare, correre”, finora. Tuttavia, ha detto che i dirigenti considerano le raccomandazioni del chip di inferenza di prima generazione un “enorme successo.”