AWS développe une technologie de refroidissement personnalisée pour les puces AI Nvidia

La division de cloud computing d'Amazon, Amazon Web Services (AWS), a conçu un système de refroidissement sur mesure pour maintenir les températures des nouvelles puces d'intelligence artificielle (AI) puissantes de Nvidia sous contrôle. 

Mercredi, AWS a annoncé qu'elle avait développé l'échangeur de chaleur en ligne (IRHX), son système de refroidissement liquide personnalisé conçu pour les centres de données avec des GPU Nvidia haute performance.

Ces puces, utilisées pour entraîner de grands modèles d'IA comme les chatbots ou les générateurs d'images si populaires aujourd'hui, font partie des matériels les plus gourmands en énergie au monde. Leur popularité croissante dans les charges de travail d'IA a mis à rude épreuve les solutions de refroidissement traditionnelles, en particulier le refroidissement par air.

Plutôt que de laisser le marché fournir une solution de refroidissement évolutive, Amazon a dû faire preuve de créativité et résoudre le problème. L'IRHX convient aux applications de retrofit et aux nouveaux centres de données sans nécessiter une refonte complète. Il y parvient en faisant circuler du liquide réfrigéré près des rangées de serveurs pour évacuer la chaleur des GPU densément emballés.

Dave Brown, Vice-Président des services de calcul et d'apprentissage automatique chez AWS, expliqués a déclaré que les solutions de refroidissement standard n'étaient pas viables pour leurs besoins. Il a indiqué que ces options auraient gaspillé trop d' espace au sol des centres de données et utilisé l'eau de manière inefficace. Bien que de tels systèmes puissent fonctionner pour quelques armoires chez les petits fournisseurs, il a noté qu'ils manquaient de la capacité de refroidissement liquide requise pour soutenir l'échelle d'AWS.

AWS lance des instances P6e dotées de GPU Nvidia Blackwell

AWS vient également de a introduit lancer des instances P6e qui exploitent le GB200 NVL72 de Nvidia, une plateforme de supercalcul dense contenant 72 GPU Blackwell dans un seul rack. Ceux-ci sont conçus pour gérer la nature intensivement calculatoire des grands modèles d'IA et des tâches d'IA générative.

Jusqu'à présent, seules des entreprises comme Microsoft et CoreWeave offraient ce cluster de GPU de nouvelle génération. Désormais, les clients AWS peuvent accéder à la dernière infrastructure d'entraînement de machine learning sur GPU personnalisée et la plus avancée disponible dans le cloud, propulsée par les dernières GPU NVIDIA A100 Tensor Core refroidies par eau.

L'IRHX maintient ces poches de clusters à des températures sûres, offrant des performances optimales sans surchauffe. En intégrant directement l'IRHX dans la conception de son centre de données, AWS peut éviter d'attendre de retrofit l'ensemble des structures pour le refroidissement liquide ou de payer des constructions coûteuses.

Dans son annonce du lancement du P6e, Brown a noté qu'en combinant le système GB200 NVL72 avec l'IRHX d'Amazon, les clients peuvent tirer parti d'une puissance de calcul inégalée à grande échelle. Cela permettra également aux développeurs, chercheurs et entreprises d'entraîner des modèles d'IA beaucoup plus grands plus rapidement et plus efficacement qu'auparavant.

Amazon renforce son avance dans l'infrastructure cloud

La poussée pour internaliser sa technologie de refroidissement dans le centre de données en cours de construction révèle encore plus sur la stratégie plus large d'Amazon pour posséder davantage de son infrastructure. Ces dernières années, AWS a beaucoup investi dans le développement de ses puces, systèmes de stockage et équipement de réseau pour alimenter ses services cloud.

Ces avancées permettent à Amazon de réduire davantage sa dépendance aux fournisseurs tiers et de trouver un équilibre entre performance opérationnelle et coût.

Cette approche a porté ses fruits. Au premier trimestre 2025, AWS a enregistré sa marge d'exploitation la plus élevée depuis la création de l'unité et est désormais le principal moteur de la rentabilité globale d'Amazon. Le lancement de l'IRHX étend le leadership en innovation d'AWS et son empreinte infrastructurelle dans l'industrie du cloud.

D'autres géants de la technologie font de même. Microsoft, par exemple, a construit ses propres puces AI et un système de refroidissement personnalisé, Sidekicks, pour les accompagner. Google et Meta étudient également des moyens de construire du matériel et des systèmes adaptés aux charges de travail d'IA.

Cependant, Amazon a un avantage crucial : son vaste réseau mondial de centres de données et des années d'expérience dans la construction et le déploiement de matériel personnalisé à grande échelle. L'IRHX pourrait s'ajouter à cela en rationalisant son infrastructure prête pour l'IA, la rendant plus efficace, durable et évolutive.

Alors que l'IA alimente la demande pour des ressources de calcul de plus en plus puissantes, des innovations telles que l'IRHX seront plus importantes que jamais. Amazon justifie à nouveau son investissement substantiel dans une infrastructure spécialisée pour rester compétitif dans la course à hauts enjeux pour fournir l'IA dans le cloud et établir un modèle que la conception future des centres de données suivra.