아마존, Nvidia의 AI 칩 우위 도전 struggling

아마존은 비용 절감을 위해 자체 AI 칩을 개발해 왔으며, 이는 아마존 웹 서비스(AWS)의 수익성 향상에도 기여했습니다. 그러나 전자상거래 거대 기업인 아마존은 엔비디아의 표준 칩과 경쟁할 수 있는 AI 칩 개발에 어려움을 겪고 있습니다.

프로젝트 마이그레이션 문제, 호환성 격차, 낮은 사용률 등이 아마존의 AI 칩 채택을 늦추는 주요 우려 사항입니다. 이 상황은 아마존이 클라우드 사업에서 얻는 막대한 수익에도 영향을 미치고 있습니다. 아마존이 직면한 이러한 과제는 기밀 문서와 사정에 정통한 출처들을 통해 비즈니스 인사이더가 보도한 바 있습니다.

아마존 자체 개발 AI 칩, 채택 저조

트레이니움(Trainium)과 인페렌티아(Inferentia)는 작년 말 말미에 데뷔한 아마존 설계 최고급 칩입니다. 해당 출판물은 작년 아마존 고객들 사이에서 트레이니움의 채택률이 엔비디아 그래픽 처리 장치(GPU)에 비해 불과 0.5%에 불과했다고 보도했습니다.

또한 읽기: AWS의 생성형 AI가 놀라운 성과를 거두며 아마존 이익이 월스트리트 기대치를 초과

보고서에 따르면 아마존은 2024년 4월 AWS 서비스를 통해 다양한 AI 칩의 사용률 백분율을 측정하기 위해 이 같은 평가를 내렸습니다. 동시에 인페렌티아의 채택률은 2.7%로 다소 높았습니다. 인페렌티아는 최종 소비자가 AI 모델을 사용하는 컴퓨팅 과정을 의미하는 추론(Inference)이라는 AI 작업용으로 특별히 설계된 칩입니다. 보고서는 내부 문서를 인용하며 다음과 같이 언급했습니다.

“고객들의 초기 시도는 마찰점을 노출시켰고 채택을 저해했습니다.”

위의 진술은 대형 클라우드 고객들이 아마존의 맞춤형 칩으로 전환하는 과정에서 직면한 과제를 가리킵니다. 엔비디아의 CUDA 플랫폼은 고객들에게 더 매력적으로 여겨지며, 보고서는 이를 주요 이유로 지적합니다.

아마존의 맞춤형 AI 칩 개발, 내부 검토 중

세계 최대 클라우드 서비스 제공업체인 AWS는 운영을 원활히 하기 위해 자체 개발 컴퓨터 칩을 개발 중입니다. 아마존은 때때로 자신의 AI 칩 노력을 과시하지만, 문서에 나타난 그림은 회사가 주장하는 것과 다릅니다.

내부 문서에 따르면 회사는 느린 채택률로 고전하고 있지만, 아마존의 CEO는 다른 견해를 가지고 있습니다. 아마존 CEO 앤디 재시는 첫 분기 실적 통화에서 AWS 칩에 대한 수요가 높다고 말했습니다.

"우리는 주변에서 가장 넓은 선택지를 갖춘 NVIDIA 컴퓨팅 인스턴스를 보유하고 있지만, 사용 가능한 대안과 비교했을 때 유리한 가격 대비 성능으로 인해 맞춤형 실리콘, 학습 및 추론에 대한 수요가 매우 높습니다."

앤디 재시

제프 베이조스 이후 아마존 CEO인 앤디 재시는 주주 서한에서 AWS 실리콘 칩의 초기 채택 사례를 언급하며 “우리는 이미 Anthropic, Airbnb, Hugging Face, Qualtrics, Ricoh, Snap 등 여러 고객이 우리 AI 칩을 사용하고 있다고 밝혔습니다.”라고 말했습니다. 동시에 Anthropic은 완전히 다른 사례입니다. 아마존은 이 스타트업의 최대 후원자이기 때문입니다. 클라우드 거대 기업인 아마존은 Anthropic에 40억 달러를 투자했으며, 이 투자 계약은 Anthropic이 AWS 설계 칩을 사용하도록 묶고 있습니다.

주요 AWS 구성 요소는 Nvidia GPU 활용

Amazon Web Services는 Nvidia의 Grass Hopper 칩부터 AMD 및 Intel에 이르기까지 다양한 프로세서를 제공합니다. 수익성의 대부분은 Nvidia에서 GPU를 구매하지 않고 비용을 절감할 수 있는 자체 데이터센터 칩 설계에서 비롯됩니다.

또한 읽기: AI 및 GPU 수요 증가 속에서 Nvidia의 놀라운 성장

아마존은 2018년 첫 AI 칩인 Inferntia를 선보였지만, Nvidia는 여전히 다양한 산업에서 더 널리 채택되는 솔루션을 제공하는 데 선두를 달리고 있습니다. AWS, Microsoft, Google은 Nvidia의 최대 고객 중 일부입니다. 이러한 모든 거대 기업들은 클라우드 서비스를 통해 GPU를 임대합니다. 

3월, AWS CEO 아담 셀립스쿠는 Nvidia GTC 2023에 참석했습니다. 두 회사는 생성형 AI 발전을 위한 전략적 협력에 초점을 맞춘 공동 발표를 했습니다. 

"우리의 두 조직 간의 깊은 협력은 13년 이상으로 거슬러 올라가며, 당시 우리는 AWS에서 세계 최초의 GPU 클라우드 인스턴스를 함께 출시했고, 오늘날 우리는 고객에게 가장 넓은 범위의 NVIDIA GPU 솔루션을 제공합니다."

셀립스쿠

Nvidia의 Cuda 플랫폼은 일반적으로 개발자들이 선호합니다. Nvidia가 이를 만드는 데 많은 시간과 노력을 들였고 산업계가 이를 채택했기 때문에 처리가 더 쉬워지기 때문입니다. 반면, 아마존은 아직 시행착오를 통해 이 퍼즐을 풀어야 합니다.

Aamir Sheikh가 Cryptopolitan에서 보도