AWS sviluppa una tecnologia di raffreddamento personalizzata per i chip AI di Nvidia

La divisione cloud computing di Amazon, Amazon Web Services (AWS), ha ideato un sistema di raffreddamento su misura per tenere sotto controllo le temperature dei nuovi e potenti chip di intelligenza artificiale (AI) di Nvidia. 

Mercoledì, AWS ha annunciato di aver sviluppato l'In-Row Heat Exchanger (IRHX), il suo sistema di raffreddamento a liquido personalizzato progettato per i data center con GPU Nvidia ad alte prestazioni.

Questi chip, utilizzati per addestrare modelli di intelligenza artificiale di grandi dimensioni come i chatbot o i generatori di immagini così popolari oggi, sono tra i componenti hardware più esigenti in termini di energia al mondo. La loro crescente popolarità nei carichi di lavoro di intelligenza artificiale ha messo a dura prova le soluzioni di raffreddamento tradizionali, in particolare il raffreddamento ad aria.

Invece di lasciare che fosse il mercato a fornire una soluzione di raffreddamento scalabile, Amazon ha dovuto dare sfogo alla sua creatività e trovare la soluzione. L'IRHX è adatto per retrofit e nuove applicazioni in data center, senza richiedere una riprogettazione radicale. Questo avviene facendo circolare liquido refrigerato vicino alle file di server per rimuovere il calore dalle GPU, che sono densamente assemblate.

Dave Brown, Vicepresidentedent servizi di calcolo e apprendimento automatico di AWS, ha spiegato che le soluzioni di raffreddamento standard non erano adatte alle loro esigenze. Ha affermato che queste opzioni avrebbero comportato uno spreco eccessivo di spazio nei data center e un utilizzo inefficiente dell'acqua. Pur riconoscendo che tali sistemi potrebbero funzionare per pochi armadi rack presso provider più piccoli, ha sottolineato la mancanza della capacità di raffreddamento a liquido necessaria per supportare le dimensioni di AWS.

AWS lancia le istanze P6e con GPU Nvidia Blackwell

AWS ha inoltre recentemente introdotto le istanze P6e che sfruttano la piattaforma di supercalcolo GB200 NVL72 di Nvidia, una piattaforma ad alta densità che contiene 72 GPU Blackwell in un unico rack. Queste istanze sono progettate per gestire l'elevata intensità computazionale di modelli di intelligenza artificiale di grandi dimensioni e attività di intelligenza artificiale generativa.

Finora, solo aziende come Microsoft e CoreWeave offrivano questo cluster GPU di ultima generazione. Ora i clienti AWS possono accedere alla più recente e avanzata infrastruttura di machine learning GPU personalizzata disponibile nel cloud, basata sulle GPU NVIDIA A100 Tensor Core di ultima generazione raffreddate a liquido.

L'IRHX mantiene queste sacche di cluster a temperature di sicurezza, garantendo prestazioni ottimali senza surriscaldamento. Integrando l'IRHX direttamente nel design del data center, AWS può evitare di dover attendere per adattare intere strutture al raffreddamento a liquido o di dover sostenere costi di costruzione elevati.

Nell'annuncio del lancio del P6e, Brown ha sottolineato che combinando il sistema GB200 NVL72 con l'IRHX di Amazon, i clienti potranno sfruttare una potenza di calcolo senza pari su larga scala. Ciò consentirà inoltre a sviluppatori, ricercatori e aziende di addestrare modelli di intelligenza artificiale molto più grandi, in modo più rapido ed efficiente rispetto al passato.

Amazon rafforza la sua leadership nell'infrastruttura cloud

La scelta di internalizzare la tecnologia di raffreddamento nel data center in costruzione rivela ulteriori dettagli sulla più ampia strategia di Amazon volta a controllare una porzione maggiore della propria infrastruttura. Negli ultimi anni, AWS ha investito ingenti risorse nello sviluppo di chip, sistemi di archiviazione e apparecchiature di rete per alimentare i propri servizi cloud.

Questi progressi consentono ad Amazon di ridurre ulteriormente la dipendenza da fornitori terzi e di trovare un equilibrio tra prestazioni operative e costi.

Questo approccio ha dato i suoi frutti. Nel primo trimestre del 2025, AWS ha registrato il margine operativo più alto dalla sua creazione e ora è il motore principale della redditività complessiva di Amazon. Il lancio di IRHX rafforza la leadership di AWS nell'innovazione e la sua presenza infrastrutturale nel settore cloud.

Anche altri colossi della tecnologia stanno facendo lo stesso. Microsoft, ad esempio, ha sviluppato i propri chip di intelligenza artificiale e il sistema di raffreddamento personalizzato Sidekicks, da abbinare a essi. Anche Google e Meta stanno studiando modi per realizzare hardware e sistemi su misura per i carichi di lavoro dell'intelligenza artificiale.

Tuttavia, Amazon ha un vantaggio cruciale: la sua estesa presenza globale di data center e anni di esperienza nella creazione e distribuzione di hardware personalizzato su larga scala. L'IRHX potrebbe contribuire a questo semplificando la sua infrastruttura predisposta per l'intelligenza artificiale, rendendola più efficiente, sostenibile e scalabile.

Poiché l'intelligenza artificiale alimenta la domanda di risorse di elaborazione sempre più potenti, innovazioni come l'IRHX saranno più importanti che mai. Amazon giustifica ancora una volta il suo ingente investimento in infrastrutture specializzate per rimanere competitiva nella corsa ad alto rischio per fornire intelligenza artificiale nel cloud e stabilire un modello che la progettazione futura dei data center seguirà.