AWS, 커스텀 칩으로 Nvidia의 AI 지배력에 도전

아마존의 AWS(Amazon Web Services)는 Graviton4 CPU와 Trainium 시리즈 가속기를 통한 커스텀 칩 전략을 추진하며 AI 칩 부문에서 Nvidia의 시장 지배력에 도전할 예정입니다. 이 커스텀 칩은 클라우드 환경에서의 데이터 전송 비용을 절감하여 AI 워크로드에서 이익 마진을 극대화하도록 설계되었습니다.

AWS 발표 네트워크 대역폭이 초당 600기가비트인 Graviton4 칩의 업데이트로, 이 회사는 이를 퍼블릭 클라우드에서 가장 높은 제공 사항이라고 부릅니다. AWS의 엔지니어인 Ali Saidi는 이 속도를 초당 100장의 음악 CD를 읽는 기계에 비유했습니다. Graviton4 CPU는 텍사스 오스틴에 있는 아마존의 Annapurna Labs에서 나오는 수많은 칩 제품 중 하나이며, 이는 Intel과 AMD와 같은 전통적인 주자와 경쟁하는 회사의 커스텀 전략에 승리한 것입니다.

Graviton4의 업그레이드와 레이니어 프로젝트의 Trainium 칩을 앞두고, 아마존은 네트워킹부터 트레이닝, 인퍼런스까지 전체 AI 인프라 스택을 통제하려는 야망을 보여주었습니다. Claude 4와 같은 더 많은 주요 AI 모델이 Nvidia가 아닌 하드웨어에서 성공적으로 훈련할 수 있음을 입증함에 따라, 질문은 AWS가 칩 거인과 경쟁할 수 있는지 여부가 아니라 얼마나 많은 시장 점유율을 가져갈 수 있는지였습니다.

Hutt, Nvidia GPU보다 저렴한 대안을 제공하겠다고 말함

AWS의 고객 및 제품 엔지니어링 수석 디렉터인 Gadi Hutt는 아마존이 AI 훈련 비용을 줄이고 엔비디아의 고가의 그래픽 처리 장치(GPU)에 대한 대안을 제공하기를 원한다고 말했습니다. AWS에 따르면, Anthropic의 Claude Opus 4 AI 모델은 Trainium2 GPU에서 출시되었으며, 레이니어 프로젝트는 일반적으로 Nvidia에 갔을 주문인 50만 개 이상의 칩으로 구동됩니다. 

Hutt는 Nvidia의 Blackwell이 Trainium2보다 성능이 높은 칩이지만, AWS 칩이 더 나은 비용 대비 성능을 제공한다고 말했습니다. 그는 또한 Trainium3가 올해 출시 예정이며 Trainium2의 성능을 두 배로 높일 것이며 에너지 소비를 추가로 50% 절감할 것이라고 지적했습니다. AWS Annapurna Labs의 엔지니어링 디렉터인 Rami Sinno는 이러한 칩에 대한 수요가 이미 공급을 초과하고 있다고 말했습니다.

"우리의 공급은 매우 매우 크지만, 우리가 구축하는 모든 서비스에는 고객이 붙어 있습니다."

–Rami Sinno, AWS의 Annapurna Labs 엔지니어링 디렉터

AWS 팀은 회사가 특정 격차를 인정했지만, Anthropic, Scale AI, Fiddler와 같은 작고 혁신적인 스타트업과 협력하는 것을 선호하며 대형 벤더에 의존하기를 원하지 않는다고 강조했습니다. 아마존은 종종 Anthropic의 경우와 같이 자본이나 인프라를 제공하는 대가로 상호 이익이 되는 관계를 형성하기 위해 전략적 투자를 통해 이러한 회사들을 지원합니다. AWS는 작년 12월 Invent 2024 컨퍼런스에서 스타트업 Anthropic을 위해 구축된 AI 슈퍼컴퓨터인 레이니어 프로젝트(Project Rainier)를 발표했으며, Anthropic을 지원하기 위해 80억 달러를 투입한 것으로 보고되었습니다.

AWS의 Graviton4 및 Trainium3 칩은 향상된 성능과 효율성을 약속합니다 

아마존 팀 공개 2025년 후반에 예정된 업그레이드된 Graviton4 및 Trainium3 칩이 4배의 성능 도약과 40% 향상된 에너지 효율성을 약속하며 Nvidia의 마진을 더욱 압박한다고 덧붙였습니다. 이는 AWS의 매출 성장에 대한 승리가 아닐 뿐만 아니라 Nvidia의 GPU 프리미엄에 대한 직접적인 공격이라고 덧붙였습니다.

계산 및 AI 제품 관리 디렉터인 Rahul Kulkarni는 업그레이드된 Graviton4가 이전 세대의 3배에 달하는 컴퓨팅 파워와 메모리, 75% 더 많은 메모리 대역폭, 그리고 30% 향상된 성능을 제공할 것이라고 말했습니다. 그는 집단적으로 더 많은 가격 대비 성능을 제공할 것으로 예상되며, 이는 사용자가 지출하는 달러당 훨씬 더 많은 성능을 얻게 됨을 의미한다고 덧붙였습니다.

Moor Insights & Strategy의 CEO이자 수석 분석가인 Patrick Moorhead는 모든 AI 회사가 칩 개발에 많은 돈을 쓰고 있다고 말하며, 정확한 투자 금액을 공개하지 않음에도 불구하고 거대한 R&D 예산을 가지고 있다고 덧붙였습니다. Moorhead는 AMD,에서 10년 이상 부사장으로 재직한 후, Nvidia가 여전히 AI 칩 시장에서 지배적인 플레이어라고 덧붙였습니다. 그러나 AWS를 포함한 여러 경쟁자를 지원할 충분한 수요가 있습니다.