아마존의 AWS(아마존 웹 서비스)는 그래비톤4(Graviton4) CPU와 트레이니움(Trainium) 시리즈 가속기를 통해 맞춤형 칩 전략을 추진하며 인공지능(AI) 칩 시장에서 엔비디아의 지배력에 도전장을 내밀고 있습니다. 이 맞춤형 칩들은 클라우드 환경에서 데이터 전송 비용을 대폭 절감하여 AI 워크로드의 수익 마진을 극대화하도록 설계되었습니다.
AWS는 발표했는데 , 이는 퍼블릭 클라우드 업계 최고 수준이라고 회사 측은 강조했습니다. AWS 엔지니어인 알리 사이디는 이 속도를 마치 기계가 초당 100장의 음악 CD를 읽는 것과 같다고 비유했습니다. Graviton4 CPU는 텍사스주 오스틴에 있는 아마존의 애너푸르나 연구소에서 개발한 여러 칩 제품 중 하나이며, 인텔과 AMD 같은 기존 업체들과 경쟁할 수 있도록 하는 아마존의 맞춤형 전략의 성공적인 사례입니다.
그래비톤4의 업그레이드가 임박하고 프로젝트 레이니어의 트레이니움 칩이 등장하면서 아마존은 네트워킹부터 학습, 추론에 이르기까지 전체 AI 인프라 스택을 장악하겠다는 야심을 드러냈습니다. 클로드 4와 같은 주요 AI 모델들이 NVIDIA가 아닌 하드웨어에서도 성공적으로 학습할 수 있음을 입증하면서, 관건은 AWS가 칩 업계의 거물인 NVIDIA와 경쟁할 수 있을지가 아니라 얼마나 많은 시장 점유율을 확보할 수 있을지였습니다.
허트는 아마존이 엔비디아 GPU보다 저렴한 대안을 제공할 것이라고 말했습니다
AWS 고객 및 제품 엔지니어링 수석 이사인 가디 허트는 아마존이 AI 학습 비용을 절감하고 엔비디아의 고가 그래픽 처리 장치(GPU)에 대한 대안을 제공하고자 했다고 밝혔습니다. AWS에 따르면, 앤트로픽의 클로드 오푸스 4 AI 모델은 트레이니움2 GPU에서 실행되었으며, 프로젝트 레이니어는 50만 개 이상의 칩을 사용하고 있는데, 이는 일반적으로 엔비디아에 돌아가는 물량입니다.
헛은 엔비디아의 블랙웰 칩이 트레이니움2보다 성능이 뛰어나지만, AWS 칩이 가격 대비 성능이 더 우수하다고 말했습니다. 그는 또한 올해 출시될 트레이니움3가 트레이니움2보다 성능이 두 배 향상되고 에너지 소비는 50% 더 절감될 것이라고 언급했습니다. AWS 안나푸르나 랩의 엔지니어링 디렉터인 라미 신노는 이러한 칩에 대한 수요가 이미 공급을 앞지르고 있다고 밝혔습니다.
"저희의 공급량은 매우 많지만, 저희가 구축하는 모든 서비스에는 고객이 연결되어 있습니다."
– Rami Sinno , AWS Annapurna Labs 엔지니어링 이사
AWS 팀은 자사가 특정 분야의 부족한 부분을 인정하면서도 대형 벤더에 의존하기보다는 Anthropic, Scale AI, Fiddler와 같은 혁신적인 소규모 스타트업과 협력하는 것을 선호한다고 강조했습니다. 아마존은 Anthropic의 경우처럼 전략적 투자를 통해 이러한 기업들을 지원하고, 자본이나 인프라를 제공하는 대가로 상호 이익이 되는 관계를 구축합니다. AWS는 작년 12월 Invent 2024 컨퍼런스에서 스타트업 Anthropic을 위해 구축하는 AI 슈퍼컴퓨터인 Project Rainier를 발표했으며, Anthropic에 80억 달러를 투자한 것으로 알려져 있습니다.
AWS의 Graviton4 및 Trainium3 칩은 향상된 성능과 효율성을 약속합니다
아마존 팀은 밝혔습니다 . 또한 이는 AWS의 매출 성장에 도움이 될 뿐만 아니라 엔비디아의 GPU 프리미엄에 대한 직접적인 공격이라고 덧붙였습니다.
아마존의 컴퓨팅 및 AI 제품 관리 책임자인 라훌 쿨카르니는 업그레이드된 그래비톤4가 이전 모델보다 컴퓨팅 성능과 메모리가 3배, 메모리 대역폭이 75% 향상되었으며, 성능도 30% 개선되었다고 밝혔습니다. 그는 또한 이러한 개선 사항들이 종합적으로 가격 대비 성능을 향상시켜 사용자들이 지불하는 금액 대비 훨씬 더 나은 성능을 얻을 수 있을 것으로 기대한다고 덧붙였습니다.
무어 인사이트 앤 스트래티지(Moor Insights & Strategy)의 CEO 겸 수석 분석가인 패트릭 무어헤드는 모든 AI 기업들이 칩 개발에 막대한 투자를 하고 있다고 말하며, 정확한 투자액은 공개하지 않았지만 연구 개발 예산이 엄청나게 크다고 덧붙였습니다. AMD 에서 dent 엔비디아가 여전히 AI 칩 시장에서 지배적인 위치를 차지하고 있지만, AWS를 포함한 여러 경쟁업체를 지원할 만큼 충분한 수요가 있다고 분석했습니다.
