Advanced Micro Devices (AMD) è ufficialmente entrata nella corsa per sfidare il dominio di Nvidia nel mercato degli acceleratori per l'intelligenza artificiale ( IA ) con il lancio dei suoi acceleratori Instinct serie MI300. Si prevede che questa mossa accenderà una forte competizione tra i due giganti della tecnologia in un mercato che, secondo AMD, raggiungerà i 45 miliardi di dollari nel 2023 e salirà a 400 miliardi di dollari entro il 2027. Con l'obiettivo di vendere chip per l'IA per un valore di oltre 2 miliardi di dollari nel 2024, AMD si sta preparando per una spinta aggressiva nel settore dell'IA.
Un salto di prestazioni con MI300X
AMD sta introducendo due acceleratori di intelligenza artificiale, con l'MI300X che si posiziona come principale concorrente dell'H100 di Nvidia. Una delle caratteristiche distintive dell'MI300X sono i suoi impressionanti 192 GB di memoria ad alta larghezza di banda, ovvero più del doppio della capacità di memoria dell'H100 di Nvidia. Questo sostanziale vantaggio di memoria potrebbe essere fondamentale, soprattutto per le applicazioni che coinvolgono modelli di linguaggio di grandi dimensioni (LLM) che richiedono ingenti risorse di memoria.
Rispetto all'H100 di Nvidia, AMD fa affermazioni audaci sulle prestazioni dell'MI300X. Si dice che offra prestazioni 1,6 volte superiori nell'esecuzione di inferenza su LLM specifici, citando il modello BLOOM 176B come esempio. Un'altra caratteristica degna di nota è la capacità dell'MI300X di gestire l'inferenza su un modello da 70 miliardi di parametri, una capacità non presente nell'attuale gamma di prodotti Nvidia.
Presentazione del MI300A con core CPU Zen 4
Sebbene l'MI300X rappresenti l'opzione di fascia alta, AMD propone anche l'MI300A, che offre una proposta di valore diversa. L'MI300A potrebbe avere meno core GPU e meno memoria rispetto all'MI300X, ma vanta i più recenti core CPU Zen 4 di AMD. Questa configurazione posiziona l'MI300A per soddisfare il mercato del calcolo ad alte prestazioni, con latronattenzione all'efficienza. AMD afferma che l'MI300A offre 1,9 volte le prestazioni per watt rispetto al suo MI250X di precedente generazione.
Un vantaggio significativo di Nvidia nel mercato delle GPU per data center è il suo ecosistema software. La piattaforma CUDA di Nvidia, lanciata oltre 16 anni fa, è diventata lo standard di settore per l'utilizzo delle GPU per attività di calcolo. La sfida per concorrenti come AMD è che CUDA supporta esclusivamente le GPU Nvidia, rendendo difficile per i clienti passare senza problemi a fornitori alternativi di chip per l'intelligenza artificiale.
In risposta, AMD offre ROCm, una piattaforma di elaborazione GPU aperta, giunta alla sua sesta iterazione. ROCm supporta framework di intelligenza artificiale diffusi come TensorFlow e PyTorch, e AMD ha ampliato il proprio ecosistema attraverso partnership e acquisizioni strategiche. In particolare, AMD ha acquisito la società di software di intelligenza artificiale open source Nod.ai per rafforzare le proprie capacità software e colmare il divario con Nvidia.
Partnership chiave e adozione da parte dei clienti
Mentre Nvidia mantiene il suo vantaggio software, AMD si è già assicurata clienti di rilievo per i suoi nuovi chip AI. Microsoft e Meta Platforms (ex Facebook) si sono impegnate ad adottare la tecnologia AMD. Microsoft si appresta a lanciare una nuova serie di server virtuali su Azure basati sull'MI300X, mentre Meta Platforms prevede di utilizzare l'MI300X per vari carichi di lavoro di inferenza AI.
Inoltre, Oracle offrirà istanze bare metal dotate di chip MI300X e importanti produttori di hardware come Dell, Hewlett-Packard Enterprise, Lenovo e Supermicro stanno pianificando sistemi basati sui nuovi prodotti AI di AMD.
AMD è pronta a soddisfare la crescente domanda di acceleratori AI nel breve termine. Tuttavia, l'evoluzione a lungo termine di questo mercato rimane incerta. L'intelligenza artificiale continua a essere una tecnologia fondamentale, ma con l'intensificarsi della concorrenza e la disponibilità di opzioni più valide oltre a Nvidia, potrebbero emergere pressioni sui prezzi.
