아마존, 엔비디아-구글 독점 타격 위해 AI 칩 출시

아마존은 이번 주 엔비디아와 구글이 장악한 하드웨어 장악력을 정면으로 돌파하며 최신 AI 학습 칩인 Trainium3를 출시했습니다.

이 가속기는 이미 소규모 AWS 데이터 센터 그룹 내에서 실행 중이며, 화요일에 고객에게 공개됩니다. 아마존 웹 서비스(AWS) 부사장인 데이브 브라운과의 인터뷰에 따르면, 데이브는 회사가 이를 점진적으로 도입하지 않을 것이라고 말했습니다.

“내년 초에 접어들면 매우 빠르게 확장하기 시작할 것입니다.”라고 그는 말했습니다. 목표는 간단합니다. 개발자들이 지출을 다른 곳으로 돌리는 것을 지켜보는 대신, 아마존 랙에서 컴퓨팅을 직접 더 많이 판매하는 것입니다.

AWS는 임대된 컴퓨팅 및 스토리지 측면에서 글로벌 클라우드 시장에서 여전히 선두를 달리고 있습니다. 그러나 이 우위가 대규모 AI 학습으로 완전히 이어지지는 않았습니다. 일부 개발자들은 마이크로소프트와 오픈AI 간의 연결고리 때문에 마이크로소프트를 선호합니다.

다른 이들은 자체 칩을 보유한 구글로 향합니다. 아마존은 이제 Trainium3를 사용하여 가격 민감도 높은 팀들을 다시 자신들의 플랫폼으로 끌어들이고 있습니다. 기본 제안은 모든 작업을 AWS 내부에서 유지하면서 단위 작업당 비용을 낮추는 것입니다.

아마존은 클라우드 규모에서 Trainium3을⟦/N1⟧ 추진합니다

Trainium3는 아마존이 이전 버전을 배포한 지 약 1년 만에 출시되었습니다. 이는 칩 표준에서 빠른 편에 속하는 속도입니다. 칩이 8월 처음 가동되었을 때, 한 AWS 엔지니어는 농담조로 “우리가 여기서 바라는 것은 연기나 불이 나지 않는 것뿐입니다.”라고 말했습니다. 이러한 빠른 업그레이드 리듬은 엔비디아도 매년 새로운 칩을 출시한다는 공개 계획과 유사합니다.

아마존은 Trainium 칩이 엔비디아의 최상위 GPU보다 낮은 비용과 더 나은 전력 효율로 AI 모델의 무거운 컴퓨팅을 처리한다고 말합니다. 데이브는 “Trainium으로 올바른 가격 대비 성능을 얻는 능력에 매우 만족하고 있습니다.”라고 말했습니다. 모델 크기가 커지고 학습 비용이 계속 증가함에 따라 회사는 가격 경쟁력을 강조하고 있습니다.

하지만 여전히 한계가 있습니다. 아마존의 칩은 팀이 엔비디아 하드웨어에서 빠르게 작업할 수 있게 해주는 심층 소프트웨어 라이브러리를 갖추고 있지 않습니다. AI를 활용해 건설 장비를 무인 운전하는 베드록 로보틱스는 주요 시스템을 AWS 서버에서 실행합니다. 그러나 굴착기를 안내하는 모델을 학습할 때는 여전히 엔비디아 칩을 사용합니다. 베드록 로보틱스의 최고기술책임자(CTO) 케빈 피터슨은 “우리는 성능이 뛰어나고 사용하기 쉬워야 합니다. 그것이 엔비디아입니다.”라고 말했습니다.

현재 대부분의 Trainium 용량은 앤트로픽으로 흐릅니다. 이 칩들은 인디애나, 미시시피, 펜실베이니아의 데이터센터에서 작동합니다. 올해 초 AWS는 앤트로픽의 최신 모델을 학습하기 위해 50만 개 이상의 Trainium 칩을 연결했다고 밝혔습니다. 아마존은 올해 말까지 이를 100만 개로 늘릴 계획입니다.

아마존은 Trainium의 미래를 앤트로픽의 성장과 자체 AI 서비스에 묶고 있습니다. 앤트로픽 외에도 회사는 지금까지 매우 적은 수의 대형 고객을 명명했습니다. 이로 인해 분석가들은 Trainium이 더 넓은 범위에서 얼마나 잘 수행되는지 평가할 데이터가 제한적입니다.

앤트로픽도 자체 컴퓨팅 위험을 분산합니다. 앤트로픽은 여전히 구글의 Tensor Processing Units(TPU)를 사용하며, 올해 수십억 달러의 컴퓨팅 파워에 대한 접근 권한을 제공하는 구글과의 계약을 체결했습니다.

아마존은 연례 사용자 컨퍼런스인 re: Invent에서 Trainium3를 공개했습니다. 이 행사는 새로운 모델을 구축하는 개발자와 대규모로 접근 권한에 지불하기를 원하는 기업들을 대상으로 한 AI 도구와 인프라의 비단순한 전시로 변모했습니다.

아마존은 Nova 업데이트를 출시하고 Nova Forge를 오픈합니다

화요일, 아마존은 Nova로 알려진 주요 AI 모델 패밀리를 업데이트했습니다. 새로운 Nova 2 라인에는 Omni라는 버전이 포함됩니다.

Omni는 텍스트, 이미지, 음성 또는 비디오를 입력으로 받을 수 있으며, 텍스트와 이미지로 응답할 수 있습니다. 아마존은 일상적인 대규모 사용에 적합하도록 설계된 입력 유형과 모델 비용의 혼합 패키지를 판매하고 있습니다.

아마존은 여전히 달러당 성능을 기준으로 모델을 가격 책정합니다. 과거 Nova 모델들은 고정된 질문에 대한 답변을 점수화하는 표준 테스트 순위에서 상위권에 들지 못했습니다. 회사는 테스트 차트 대신 실제 사용 사례를 강조하고 있습니다.

아마존의 모델 작업과 일반 인공지능(AGI) 팀의 대부분을 이끌고 있는 로히트 프라사드는 “진정한 벤치마크는 현실 세계”라고 말하며, 새로운 모델들이 실제 환경에서 경쟁할 것으로 예상한다고 덧붙였습니다.

아마존은 또한 Nova Forge라는 새로운 제품을 통해 고급 사용자에게 더 깊은 모델 제어를 제공하고 있습니다. 이 제품을 통해 팀은 모델 학습이 완료되기 전에 Nova 모델의 버전을 가져와 자체 데이터를 사용하여 모델을 조정할 수 있습니다.

레딧은 이미 Nova Forge를 사용하여 게시물이 안전 규칙을 위반하는지 확인하는 모델을 구축하고 있습니다. 레딧의 CTO 크리스 슬로는 “많은 AI 사용자가 모든 작업에 대해 가장 큰 모델을 선택하는 경향이 있지만, 좁은 초점을 맞춘 모델을 학습하는 대신”이라고 말했습니다. 그는 “우리가 특정 영역의 전문가로 만들 수 있다는 사실에서 가치가 나옵니다.”라고 말했습니다.

Trainium3가 이제 데이터 센터에서 가동되고 Nova 모델이 동시에 업데이트되면서, 아마존은 두 가지 fronts에서 동시에 공격하고 있습니다. 하드웨어 경쟁은 엔비디아를 상대로 치열하게 전개됩니다. 모델 경쟁은 마이크로소프트가 지원한 오픈AI와 구글을 상대로 진행됩니다. 이제 다음 단계는 풀 클라우드 규모로 실제 고객 사용 단계로 넘어갑니다.