AMD lancia la serie Instinct MI300 per competere nel mercato degli acceleratori AI

Advanced Micro Devices (AMD) è entrata ufficialmente nella gara per sfidare il dominio di Nvidia nel mercato degli acceleratori per l'intelligenza artificiale (AI) con il lancio della sua serie di acceleratori Instinct MI300. Questo movimento dovrebbe innescare una feroce competizione tra i due giganti della tecnologia in un mercato che AMD prevede raggiungerà i 45 miliardi di dollari nel 2023 e salirà a 400 miliardi entro il 2027. Con l'obiettivo di vendere più di 2 miliardi di dollari di chip AI nel 2024, AMD si sta preparando per un'aggressiva spinta nello spazio AI.

Un salto nelle prestazioni con la MI300X

AMD sta introducendo due prodotti acceleratori AI, con la MI300X posizionata come il principale contendente contro l'H100 di Nvidia. Una delle caratteristiche distintive della MI300X è la sua impressionante memoria ad alta larghezza di banda da 192GB, che è più del doppio della capacità di memoria dell'H100 di Nvidia. Questo sostanziale vantaggio di memoria potrebbe essere cruciale, specialmente per le applicazioni che coinvolgono modelli linguistici di grandi dimensioni (LLM) che richiedono estese risorse di memoria.

Rispetto all'H100 di Nvidia, AMD fa affermazioni audaci sulle prestazioni della MI300X. Si riporta che offra 1,6 volte le prestazioni durante l'esecuzione di inferenza su specifici LLM, citando il modello BLOOM 176B come esempio. Un'altra caratteristica degna di nota è la capacità della MI300X di gestire l'inferenza su un modello da 70 miliardi di parametri, una funzionalità non presente nell'attuale gamma di prodotti di Nvidia.

Presentazione della MI300A con core CPU Zen 4

Mentre la MI300X rappresenta l'opzione di fascia alta, AMD porta anche la MI300A sul tavolo, che offre una diversa proposta di valore. La MI300A potrebbe avere meno core GPU e meno memoria della MI300X, ma vanta gli ultimi core CPU Zen 4 di AMD. Questa configurazione posiziona la MI300A per servire il mercato dell'elaborazione ad alte prestazioni, con un forte focus sull'efficienza. AMD afferma che la MI300A offre 1,9 volte le prestazioni per watt rispetto alla sua generazione precedente MI250X.

Un vantaggio significativo che Nvidia detiene nel mercato delle GPU per data center è il suo ecosistema software. La piattaforma CUDA di Nvidia, stabilita oltre 16 anni fa, è diventata lo standard industriale per sfruttare le GPU per attività di calcolo. La sfida per i concorrenti come AMD è che CUDA supporta esclusivamente le GPU Nvidia, rendendo difficile per i clienti passare senza soluzione di continuità a fornitori di chip AI alternativi.

In risposta, AMD offre ROCm, una piattaforma di calcolo GPU open source ora alla sua sesta iterazione. ROCm supporta popolari framework AI come TensorFlow e PyTorch, e AMD ha ampliato il suo ecosistema attraverso partnership strategiche e acquisizioni. In particolare, AMD ha acquisito l'azienda di software AI open source Nod.ai per rafforzare le sue capacità software e colmare il divario con Nvidia.

Partnership chiave e adozione da parte dei clienti

Sebbene Nvidia mantenga il suo vantaggio software, AMD ha già ottenuto clienti di spicco per i suoi nuovi chip AI. Microsoft e Meta Platforms (ex Facebook) si sono impegnate ad adottare la tecnologia di AMD. Microsoft sta per lanciare una nuova serie di server virtuali su Azure alimentata dalla MI300X, mentre Meta Platforms prevede di utilizzare la MI300X per vari carichi di lavoro di inferenza AI.

Inoltre, Oracle offrirà istanze bare metal con chip MI300X, e i principali produttori di hardware come Dell, Hewlett-Packard Enterprise, Lenovo e Supermicro stanno pianificando sistemi basati sui nuovi prodotti AI di AMD.

AMD è pronta a soddisfare la crescente domanda di acceleratori AI nel breve termine. Tuttavia, l'evoluzione a lungo termine di questo mercato rimane incerta. L'AI continua a essere una tecnologia fondamentale, ma man mano che la competizione si intensifica e diventano disponibili opzioni valide oltre a Nvidia, potrebbero emergere pressioni sui prezzi.