엔비디아가 인텔과 AMD의 영역을 노리고 있다

엔비디아는 5월 31일, 인공지능 에이전트 워크로드에 특화된 데이터센터 업계 최초의 프로세서인 Vera CPU의 본격적인 생산을 발표했습니다. 엔비디아의 보도자료에 따르면, Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance, CoreWeave 등이 초기 도입 기업으로 Vera CPU를 배포할 계획입니다.

이 칩은 NVIDIA가 GPU 시장을 넘어 인텔과 AMD가 수십 년간 장악해 온 CPU 시장에 진출하기 위한 가장 공격적인 행보를 보여줍니다. NVIDIA의 이전 ARM 기반 서버 칩인 Grace는 현재까지 약 250만 대가 출하되었지만, Vera는 상용 ARM 코어 설계를 라이선스하는 대신 Olympus라는 완전히 자체 개발한 코어 아키텍처를 도입했다고 Tom's Hardware는 보도했습니다.

AI 에이전트 워크로드가 데이터 센터의 CPU 수요를defi하는 이유는 무엇일까요?

의 경제성이 데이터 센터 인공지능 NVIDIA의 CEO인 젠슨 황은 이러한 잠재력을 직접적으로 언급하며, "AI 에이전트는 컴퓨팅 자원을 가장 많이 사용하는 주체가 될 것입니다. Vera는 그러한 미래를 위해 설계된 최초의 CPU로, 탁월한 성능, 효율성, 그리고 프로그래밍 기능을 통해 하이퍼스케일로 에이전트형 AI를 실행하도록 구축되었습니다."라고 밝혔습니다.

베라의 사양은 그 잠재력을 잘 보여줍니다. 88개의 올림푸스 코어와 올림푸스의 공간 멀티스레딩 기술, 그리고 LPDDR5X 메모리 시스템을 탑재하여 최대 1.2TB/초의 대역폭을 제공하면서도 30와트 미만의 메모리 전력을 소비합니다. 제조사에 따르면, 베라는 코드 컴파일, 파이썬 실행, 자바 실행, 데이터베이스 조작과 같은 AI 애플리케이션 작업 시 x86 프로세서보다 최대 1.8배 빠른 속도로 작업을 처리할 수 있습니다.

독립적인dent 결과, Vera는 (단일 소켓 구성에서) 20초 이내에 Linux 커널을 컴파일하는 것으로 나타났으며, NVIDIA 블로그에서 주장하는 바와 같이 5.0GHz로 작동하는 AMD EPYC 9575F보다 10% 향상된 성능을 제공합니다. Phoronix의 설립자인 마이클 라라벨은 Vera가 "다른 어떤 ARM 또는 비 x86_64 프로세서에서도 본 적 없는 Intel/AMD x86_64 CPU와 경쟁할 수 있는 강력한 성능을 보여준다"고 말했습니다.

하지만 위에서 언급된 벤치마크는 NVIDIA 자체에서 선정하고 수행한 것이므로, 독립적dent 테스트는 아직 진행되지 않았다는 점을 유의해야 합니다.

AI 연구소, 하이퍼스케일러 및 엔터프라이즈 기업의 초기 시장 도입

Vera의 고객 명단에는 AI 연구 기관, 하이퍼스케일러, 금융 인프라 업체 등이 포함되어 있습니다. 뉴욕증권거래소(NYSE) 사장인 린 마틴은dent 1조 1천억 건 이상의 메시지를 처리하는 NYSE가 Vera를 비롯해 Redpanda, Hewlett Packard Enterprise를 활용하여 용량을 늘리고 지연 시간을 줄일 계획이라고 밝혔습니다.

앤스로픽의 컴퓨팅 책임자인 제임스 브래드버리에 따르면, 이 회사는 CPU 집약적인 에이전트 워크로드에 Vera를 활용하는 방안을 검토 중입니다. 브래드버리는 "컴퓨팅 확장은 모델 성장을 위한 중요한 가속 요소입니다."라며, "에이전트 워크로드 해결에 있어 Vera가 유망한 생태계 구성 요소로 부상하고 있는 것을 보게 되어 기쁩니다."라고 말했습니다

오라클 클라우드 인프라스트럭처(OCI)는 베라(Vera)를 활용하는 최초의 하이퍼스케일러가 될 계획이며, OCI의 마헤시 티아가라dent 부사장은 베라를 "하이퍼스케일 AI 슈퍼컴퓨팅의 차세대 개척지"라고 불렀습니다.

하드웨어 제조 측면에서는 Dell Technologies, HPE, Lenovo, Supermicro가 Vera를 독립형 CPU 서버 구성으로 제공할 예정입니다. NVIDIA는 이를 주요 OEM 업체들이 제공하는 "x86을 넘어선 최초의 표준 CPU 옵션"이라고 설명했습니다. ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology,tron등 대만 기반 제조업체들도 시스템을 구축하고 있습니다.

NVIDIA의 AI 인프라 스택 전반에 걸친 더욱 폭넓은 통합

Vera는 NVIDIA의 풀스택 AI 팩토리 생태계 비전에 완벽하게 부합합니다. Vera는 Vera Rubin 플랫폼의 CPU 호스트 역할을 하며, 1.8TB/s 대역폭의 2세대 NVLink-C2C를 통해 Rubin GPU와 연결됩니다. 또한 Vera는 네트워킹 및 스토리지 측면에서 BlueField-4 STX 플랫폼의 구성 요소이기도 합니다. Dealroom에 따르면NVIDIA 임원인 Ian Buck은 샌프란시스코의 Anthropic과 팔로알토의 SpaceXAI와 같은 고객에게 초기 Vera 장치를 제공했습니다.

메모리 공급망은 즉각 반응했습니다. 디지타임즈는 엔비디아가 베라를 별도의 칩으로 상용화하기로 한 결정이 저전력 DRAM에 대한 수요를 창출하여 이미 부족한 메모리 칩 공급망에 더 큰 부담을 줄 것이라고 보도했습니다.

Vera가 배포 단계에 진입하면서 주목해야 할 사항은 무엇일까요?

베라 시스템은 올해 3분기에 파트너사와 클라우드 제공업체에 공급될 예정입니다. 하지만 다양한 일반 애플리케이션에 대한 독립적인dent 마크 결과가 NVIDIA의 성능 주장을 뒷받침하는지, 그리고 올림푸스 맞춤형 칩이 애플리케이션 호환성 측면에서 x86 소프트웨어와 경쟁할 수 있는지 등 몇 가지 고려해야 할 사항이 있습니다. 하지만 지금 분명한 것은 NVIDIA가 더 이상 가속기만 보유하는 것에 만족하지 않고, AI 데이터 센터 스택 전체를 장악하려 한다는 점입니다.