AWS, 엔비디아 AI 칩용 맞춤형 냉각 기술 개발

아마존의 클라우드 컴퓨팅 사업부인 아마존 웹 서비스(AWS)는 엔비디아의 강력한 신형 인공지능(AI) 칩의 온도를 제어하기 위해 맞춤형 냉각 시스템을 개발했습니다. 

수요일, AWS는 고성능 엔비디아 GPU를 사용하는 데이터 센터를 위해 설계된 맞춤형 액체 냉각 시스템인 인로우 열교환기(IRHX)를 개발했다고 발표했습니다.

오늘날 널리 사용되는 챗봇이나 이미지 생성기와 같은 대규모 AI 모델을 학습하는 데 사용되는 이러한 칩은 세계에서 가장 전력 소모가 많은 하드웨어 중 하나입니다. AI 워크로드에서 이러한 칩의 인기가 높아짐에 따라 기존 냉각 솔루션, 특히 공랭식 냉각 방식에 부담이 가중되고 있습니다.

확장 가능한 냉각 솔루션을 시장에 맡기는 대신, 아마존은 창의적인 해결책을 마련해야 했습니다. IRHX는 전체적인 재설계 없이 기존 데이터센터를 개조하거나 신규 데이터센터에 적용할 수 있습니다. 이 시스템은 냉각된 액체를 서버 열 가까이 순환시켜 밀집된 GPU에서 발생하는 열을 제거합니다.

인 데이브 브라운은dent AWS의 컴퓨팅 및 머신러닝 서비스 부문 표준 냉각 솔루션으로는 AWS의 요구 사항을 충족할 수 없다고 데이터센터 공간을 물을 비효율적으로 사용한다고 말했습니다. 소규모 업체에서 몇몇 캐비닛에는 이러한 시스템이 적합할 수 있지만, AWS 규모에 필요한 액체 냉각 용량이 부족하다고 지적했습니다. 설명했습니다 . 그는 이러한 솔루션들이 너무 많이 차지하고

AWS, 엔비디아 블랙웰 GPU 탑재 P6e 인스턴스 출시

AWS는 최근 P6e 인스턴스를 엔비디아의 GB200 NVL72를 활용하는 블랙웰 GPU가 으로, 대규모 AI 모델 및 생성형 AI 작업과 같이 연산 집약적인 특성을 처리하도록 설계되었습니다. 출시했습니다 . GB200 NVL72는 하나의 랙에 72개의 탑재된 고밀도 슈퍼컴퓨팅 플랫폼

지금까지 마이크로소프트와 코어위브 같은 회사들만이 이러한 차세대 GPU 클러스터를 제공해 왔습니다. 이제 AWS 고객은 최신 세대 수랭식 NVIDIA A100 텐서 코어 GPU로 구동되는 클라우드에서 이용 가능한 최신이자 가장 진보된 맞춤형 GPU 머신러닝 학습 인프라를 이용할 수 있습니다.

IRHX는 이러한 클러스터 영역을 안전한 온도로 유지하여 과열 없이 최적의 성능을 제공합니다. AWS는 IRHX를 데이터 센터 설계에 직접 통합함으로써 전체 구조물을 액체 냉각 시스템으로 개조하거나 값비싼 건설 비용을 지불하는 것을 피할 수 있습니다.

브라운은 P6e 출시 발표에서 GB200 NVL72 시스템과 아마존의 IRHX를 결합함으로써 고객이 비교할 수 없는 규모의 컴퓨팅 성능을 활용할 수 있다고 언급했습니다. 또한 이를 통해 개발자, 연구원 및 기업은 이전보다 훨씬 더 크고 효율적인 AI 모델을 학습시킬 수 있게 될 것입니다.

아마존, 클라우드 인프라 분야 선두 자리 더욱 강화

건설 중인 데이터 센터에서 냉각 기술을 자체 개발하려는 움직임은 아마존이 인프라 소유권을 확대하려는 더 큰 전략을 보여줍니다. 최근 몇 년 동안 AWS는 클라우드 서비스를 지원하기 위해 칩, 스토리지 시스템 및 네트워킹 장비 개발에 막대한 투자를 해왔습니다

이러한 발전 덕분에 아마존은 제3자 공급업체에 대한 의존도를 더욱 줄이고 운영 성과와 비용 사이의 균형을 맞출 수 있습니다.

이러한 접근 방식은 성공을 거두었습니다. 2025년 1분기에 AWS는 해당 부서가 설립된 이후 최고 영업이익률을 기록했으며, 현재 아마존 전체 수익성의 핵심 동력입니다. IRHX 출범은 클라우드 산업에서 AWS의 혁신 리더십과 인프라 입지를 더욱 확대할 것입니다.

다른 거대 기술 기업들도 마찬가지입니다. 예를 들어 마이크로소프트는 자체 AI 칩과 맞춤형 냉각 시스템인 사이드킥(Sidekicks)을 개발했습니다. 구글과 메타(Meta) 또한 AI 워크로드에 최적화된 하드웨어 및 시스템 구축 방안을 연구하고 있습니다.

하지만 아마존은 광범위한 글로벌 데이터 센터 네트워크와 대규모 맞춤형 하드웨어 구축 및 배포에 대한 오랜 경험이라는 결정적인 이점을 가지고 있습니다. IRHX는 AI 지원 인프라를 간소화하여 더욱 효율적이고 지속 가능하며 확장 가능한 형태로 만들어 아마존의 경쟁력을 강화할 수 있습니다.

인공지능(AI)이 점점 더 강력한 컴퓨팅 자원에 대한 수요를 촉진함에 따라 IRHX와 같은 혁신은 그 어느 때보다 중요해질 것입니다. 아마존은 클라우드 AI 공급 경쟁에서 우위를 유지하고 미래 데이터 센터 설계의 모델을 구축하기 위해 특수 인프라에 상당한 투자를 정당화하고 있습니다.