AWS conçoit une technologie de refroidissement sur mesure pour les puces d'IA de Nvidia

La division cloud computing d'Amazon, Amazon Web Services (AWS), a conçu un système de refroidissement sur mesure pour contrôler la température des nouvelles puces d'intelligence artificielle (IA) puissantes de Nvidia. 

Mercredi, AWS a annoncé avoir développé l'échangeur de chaleur en rangée (IRHX), son système de refroidissement liquide personnalisé conçu pour les centres de données équipés de GPU Nvidia hautes performances.

Ces puces, utilisées pour entraîner de grands modèles d'IA comme les chatbots ou les générateurs d'images si populaires aujourd'hui, figurent parmi les composants matériels les plus énergivores au monde. Leur popularité croissante dans les applications d'IA a mis à rude épreuve les solutions de refroidissement traditionnelles, notamment le refroidissement par air.

Plutôt que de laisser le marché proposer une solution de refroidissement évolutive, Amazon a dû faire preuve d'ingéniosité et trouver une solution. L'IRHX convient aux installations existantes et aux nouveaux centres de données sans nécessiter de refonte complète. Son principe repose sur la circulation d'un liquide réfrigéré à proximité des rangées de serveurs afin d'évacuer la chaleur des GPU, qui sont très rapprochés.

Dave Brown, vice-présidentdent services de calcul et d'apprentissage automatique chez AWS, a expliqué que les solutions de refroidissement standard n'étaient pas adaptées à leurs besoins. Selon lui, ces options auraient gaspillé trop d'espace au sol dans les centres de données et auraient entraîné une consommation d'eau inefficace. Bien que de tels systèmes puissent convenir à quelques baies chez les petits fournisseurs, il a souligné qu'ils ne disposaient pas de la capacité de refroidissement liquide nécessaire pour supporter l'échelle d'AWS.

AWS lance des instances P6e équipées de GPU Nvidia Blackwell

AWS vient également de lancer des instances P6e qui exploitent la plateforme de supercalcul haute densité GB200 NVL72 de Nvidia, intégrant 72 GPU Blackwell dans un seul rack. Ces instances sont conçues pour répondre aux exigences de calcul intensives des modèles d'IA de grande envergure et des tâches d'IA générative.

Jusqu'à présent, seules des entreprises comme Microsoft et CoreWeave proposaient ce type de cluster GPU de nouvelle génération. Désormais, les clients AWS peuvent accéder à l'infrastructure d'entraînement de machine learning personnalisée la plus récente et la plus performante disponible dans le cloud, grâce aux GPU NVIDIA A100 Tensor Core de dernière génération, refroidis par eau.

L'IRHX maintient ces zones de clusters à des températures sûres, garantissant des performances optimales sans surchauffe. En intégrant l'IRHX directement dans la conception de ses centres de données, AWS évite d'attendre la modernisation complète des infrastructures pour le refroidissement liquide ou d'engager des travaux de construction coûteux.

Lors de l'annonce du lancement du P6e, Brown a souligné qu'en combinant le système GB200 NVL72 avec l'IRHX d'Amazon, les clients bénéficieraient d'une puissance de calcul inégalée à grande échelle. Cette technologie permettrait également aux développeurs, aux chercheurs et aux entreprises d'entraîner des modèles d'IA beaucoup plus volumineux, plus rapidement et plus efficacement qu'auparavant.

Amazon renforce sa position de leader dans l'infrastructure cloud

La volonté d'internaliser sa technologie de refroidissement pour le centre de données en construction révèle une fois de plus la stratégie globale d'Amazon visant à maîtriser une part croissante de son infrastructure. Ces dernières années, AWS a investi massivement dans le développement de ses puces, systèmes de stockage et équipements réseau pour alimenter ses services cloud.

Ces avancées permettent à Amazon de réduire encore davantage sa dépendance aux fournisseurs tiers et de trouver un équilibre entre performance opérationnelle et coût.

Cette stratégie s'est avérée payante. Au premier trimestre 2025, AWS a enregistré sa marge opérationnelle la plus élevée depuis la création de cette unité et constitue désormais le principal moteur de la rentabilité globale d'Amazon. Le lancement d'IRHX renforce le leadership d'AWS en matière d'innovation et son empreinte infrastructurelle dans le secteur du cloud.

D'autres géants de la tech suivent la même voie. Microsoft, par exemple, a conçu ses propres puces d'IA et un système de refroidissement sur mesure, Sidekicks, pour les accompagner. Google et Meta étudient également des solutions pour concevoir du matériel et des systèmes adaptés aux charges de travail de l'IA.

Cependant, Amazon possède un atout majeur : son vaste réseau mondial de centres de données et son expérience de plusieurs années dans la conception et le déploiement à grande échelle de matériel sur mesure. L’IRHX pourrait renforcer cet atout en optimisant son infrastructure compatible avec l’IA, la rendant ainsi plus efficace, durable et évolutive.

Face à la demande croissante de ressources informatiques toujours plus puissantes engendrée par l'IA, des innovations telles que l'IRHX revêtiront une importance capitale. Amazon justifie ainsi une fois de plus son investissement considérable dans une infrastructure spécialisée afin de rester compétitif dans la course effrénée à la fourniture de solutions d'IA dans le cloud et d'établir un modèle qui guidera la conception des futurs centres de données.