Microsoft rivela il piano di sostituire Nvidia mentre la domanda di IA supera l'offerta di chip

I chip e i server ospitati nei data center sono stati essenziali per la costruzione di modelli e applicazioni di intelligenza artificiale. Sebbene Nvidia abbia guidato questo mercato, le principali aziende di cloud computing, tra cui Microsoft, hanno iniziato a creare i propri chip specializzati.

Durante una discussione informale alla Italian Tech Week moderata da CNBC, Kevin Scott, chief technology officer di Microsoft, ha spiegato l'approccio dell'azienda ai chip per l'IA.

Attualmente, Microsoft fa affidamento principalmente su chip Nvidia e AMD nei suoi data center. La priorità dell'azienda è stata selezionare i semiconduttori giusti che offrono “il miglior rapporto prezzo-prestazioni” per ogni chip.

Scott dice che sono flessibili riguardo alle scelte dei chip. Nvidia ha semplicemente offerto le migliori prestazioni per il prezzo negli anni. Sono disposti a guardare qualsiasi fornitore per assicurarsi di avere abbastanza capacità per la domanda.

Nel frattempo, Microsoft ha già iniziato a incorporare alcuni dei propri chip nelle sue operazioni. L'azienda ha introdotto l'acceleratore AI Azure Maia nel 2023, progettato per carichi di lavoro AI, insieme alla CPU Cobalt. I rapporti indicano che l'azienda sta sviluppando il suo prossimo lotto di prodotti semiconduttori.

Proprio la scorsa settimana, Microsoft ha rivelato una nuova tecnologia di raffreddamento che utilizza “microfluidi” per risolvere i problemi di surriscaldamento dei chip. Quando le è stato chiesto se l'obiettivo a lungo termine di Microsoft fosse utilizzare principalmente i propri chip nei data center aziendali, Scott ha risposto: “Assolutamente”, notando che l'azienda utilizza già “molto silicio Microsoft” attualmente.

I chip personalizzati sono solo l'inizio

Secondo Scott, la strategia dei chip fa parte di un piano più ampio per creare alla fine un sistema completo per i data center.

Spiega Scott che va oltre l'hardware. L'attenzione è sulla rete, sui sistemi di raffreddamento e sulla flessibilità di fare scelte che corrispondano meglio alla potenza di calcolo a qualsiasi attività in esecuzione. Microsoft, Google e Amazon stanno tutti creando chip personalizzati, non solo per ridurre la loro dipendenza da Nvidia e AMD, ma anche per adattare meglio l'hardware ai loro requisiti specifici.

Le principali aziende tecnologiche, tra cui Meta, Amazon, Alphabet e Microsoft, hanno promesso oltre 300 miliardi di dollari di spese in capitale quest'anno, con una grande parte diretta agli investimenti in IA mentre cercano di tenere il passo con la crescente domanda di IA.

Persistono gravi carenze di calcolo

Scott ha sottolineato che la capacità di calcolo rimane scarsa.

Scott dice che chiamarla una massiccia carenza di potenza di calcolo non cattura nemmeno la piena scala. Da quando è stato lanciato ChatGPT, costruire capacità abbastanza rapidamente è stato quasi impossibile.

Microsoft ha stato espandendo la capacità attraverso nuovi data center, ma il CTO ha avvertito che è ancora insufficiente per soddisfare la domanda.

Scott ha menzionato che anche le loro previsioni più aggressive continuano a non raggiungere gli obiettivi. Hanno implementato enormi quantità di capacità di recente, e l'espansione sarà ancora più grande nei prossimi anni.