아마존은 엔비디아의 AI 칩 패권에 도전하기 위해 고군분투하고 있다

아마존은 비용 절감을 위해 자체 AI 칩을 개발해 왔으며, 이는 아마존 웹 서비스(AWS)의 수익성 향에도 도움이 되었습니다. 그러나 이 거대 전자상거래 기업은 엔비디아의 표준 칩과 경쟁할 수 있는 AI 칩을 개발하는 데 어려움을 겪고 있습니다.

프로젝트 마이그레이션 문제, 호환성 문제, 낮은 사용률 등이 아마존의 AI 칩 도입을 늦추는 주요 요인으로 꼽힙니다. 이러한 상황은 아마존의 클라우드 사업 수익에도 큰 위협이 되고 있습니다. 아마존이 직면한 이러한 어려움은 기밀 문서와 사정에 정통한 소식통을 통해 확인되었다고dentdentdentdentdentdentdentdentdent인사이더 . 했습니다

아마존 자체 개발 AI 칩, 도입 부진에 직면

Trainium과 Inferentia는 작년 말에 출시된 아마존이 설계한 최고급 칩입니다. 해당 매체는 작년 AWS 고객들 사이에서 Trainium의 채택률이 엔비디아의 그래픽 처리 장치(GPU)에 비해 0.5%에 불과했다고 보도했습니다.

관련 기사: 아마존, AWS의 생성형 AI의 놀라운 성과에 힘입어 월가 예상치 상회하는 수익 기록

보고서에 따르면 아마존은 2024년 4월 AWS 서비스를 통해 다양한 AI 칩의 사용률을 측정하기 위한 평가를 실시했습니다. 그 결과, 인페렌티아(Inferentia)의 채택률이 2.7%로 약간 더 높았습니다. 인페렌티아는 추론, 즉 최종 사용자가 AI 모델을 사용하는 데 필요한 컴퓨팅 프로세스를 수행하는 AI 작업에 특화된 칩입니다. 보고서는 내부 문서를 인용하여 다음과 같이 언급했습니다

"고객들의 초기 시도에서 문제점들이 드러났고, 이로 인해 도입이 지연되었습니다."

위 내용은 대규모 클라우드 고객들이 아마존의 맞춤형 칩으로 전환하는 과정에서 겪었던 어려움을 언급한 것입니다. 엔비디아의 CUDA 플랫폼이 고객들에게 더 매력적으로 여겨지며, 보고서는 이를 주요 원인으로 지적하고dent.

아마존, 맞춤형 AI 칩 개발에 내부 검토 중

세계 최대 클라우드 서비스 제공업체인 AWS는 운영 효율성을 높이기 위해 자체 개발 컴퓨터 칩을 개발하고 있습니다. 아마존은 때때로 AI 칩 개발 노력을 과시하기도 하지만, 공개된 문서의 내용은 회사가 예상하는 바와는 다소 차이가 있습니다.

내부 문서에 따르면 회사는 더딘 도입률로 어려움을 겪고 있다고 하지만, 아마존 CEO는 다른 견해를 가지고 있습니다. 앤디 재시 아마존 CEO는 1분기 실적 발표에서 AWS 칩에 대한 수요가 높다고 밝혔습니다.

"저희는 업계에서 가장 폭넓은 NVIDIA 컴퓨팅 인스턴스 제품군을 보유하고 있지만, 맞춤형 실리콘, 학습 및 추론에 대한 수요는 매우 높습니다. 이는 기존 대안에 비해 가격 대비 성능이 우수하기 때문입니다."

앤디 재시

에서 AWS 실리콘 칩의 초기 도입 기업들을 언급하며 투자자 서한"앤스로픽, 에어bnb, 허깅페이스, 퀄트릭스, 리코, 스냅을 포함한 여러 고객사가 이미 당사의 AI 칩을 사용하고 있다"고 밝혔습니다. 하지만 앤스로픽은 아마존이 가장 큰 투자자라는 점에서 완전히 다른 사례입니다. 클라우드 거대 기업인 아마존은 앤스로픽에 40억 달러를 투자했으며, 이 투자 계약에 따라 앤스로픽은 AWS가 설계한 실리콘 칩을 사용해야 합니다.

AWS의 주요 구성 요소가 NVIDIA GPU를 활용합니다

아마존 웹 서비스(AWS)는 엔비디아의 그래스 호퍼 칩부터 AMD, 인텔에 이르기까지 다양한 프로세서를 제공합니다. AWS의 수익성은 대부분 자체 데이터센터 칩 설계에서 비롯되며, 이를 통해 엔비디아로부터 GPU를 구매하지 않고 비용을 절감할 수 있습니다.

관련 기사: 인공지능 및 GPU 수요 증가 속 엔비디아의 놀라운 성장세

아마존은 2018년에 첫 AI 칩인 인페른시아(Inferntia)를 선보였지만, 엔비디아는 여전히 다양한 산업 분야에서 더 널리 채택되는 솔루션을 제공하며 선두를 달리고 있습니다. AWS, 마이크로소프트, 구글은 엔비디아의 주요 고객사 중 일부이며, 이들 대기업들은 모두 클라우드 서비스를 통해 GPU를 임대하여 사용하고 있습니다. 

지난 3월, AWS CEO인 아담 셀립스쿠는 엔비디아 GTC 2023에 참석했습니다. 양사는 생성형 AI 발전을 위한 전략적 협력에 초점을 맞춘 공동 발표를 진행했습니다. 

"두 회사의 긴밀한 협력 관계는 13년 이상 전으로 거슬러 올라갑니다. 당시 우리는 함께 AWS에서 세계 최초의 GPU 클라우드 인스턴스를 출시했으며, 오늘날 고객에게 가장 폭넓은 NVIDIA GPU 솔루션을 제공하고 있습니다."

셀립스쿠

엔비디아의 CUDA 플랫폼은 개발자들이 선호하는 경우가 많습니다. 엔비디아가 오랜 시간과 노력을 들여 개발했고, 업계에서 널리 채택되어 사용이 간편해졌기 때문입니다. 반면 아마존은 아직 시행착오를 거쳐 이 문제를 해결해야 하는 상황입니다.

아미르 셰이크의 Cryptopolitan 보도