MLCommons 벤치마크: Nvidia와 Intel이 AI 하드웨어 성능 선도

MLCommons 컨소시엄의 최근 결과 발표에 따르면, AI 칩셋 평가를 전담하는 독립 기관인 MLCommons는 다양한 AI 하드웨어의 성능을 공개했습니다. 결과는 Nvidia의 고급 칩이 최상위 성능을 발휘했으며, Intel의 하드웨어가 그 뒤를 바짝 따라잡고 있음을 보여줍니다.

AI 하드웨어 성능에서의 Nvidia의 우위

끊임없이 진화하는 AI 환경에서 하드웨어 성능은 성공을 달성하는 데 중요한 요소입니다. Nvidia는 AI 산업의 잘 알려진 주자로서 MLCommons가 실시한 최신 테스트 라운드에서 그 실력을 입증했습니다. Nvidia의 가장 고급 칩인 GH200 Grace Hopper Superchip과 HGX 100 시스템은 MLPerf 평가의 일부로 여러 벤치마크 테스트에서 놀라운 결과를 보였습니다.

Hopper GPU와 Grace CPU를 단일 칩에 결합한 Nvidia의 GH200 Grace Hopper Superchip은 뛰어난 능력을 발휘했습니다. 이 칩은 메모리, 대역폭, 그리고 GPU와 Arm 기반 CPU 간의 작업 최적화 측면에서 탁월했습니다. 이러한 혁신적인 접근 방식은 HGX 100 시스템 대비 평균 약 17%의 성능 개선을 가져왔습니다.

포괄적인 평가에는 컴퓨터 비전, 음성 인식, 의료 영상 등 다양한 AI 작업과 대규모 언어 모델(LLM) 추론 및 추천 시스템과 같은 더 복잡한 워크로드가 포함되었습니다. Nvidia의 하드웨어는 경쟁사를 지속적으로 압도하며 AI 산업 내에서의 지배적 지위를 재확인했습니다.

Intel의 Habana Gaudi2의 등장

자회사인 Habana Labs를 통해 Intel Corporation은 Habana Gaudi2 가속기를 AI 하드웨어 부문에서 강력한 경쟁자로 positioning했습니다. Nvidia의 강력한 성과에도 불구하고 Gaudi2 시스템은 놀라울 정도로 근소한 차이로 2위를 차지하며 그 능력을 입증했습니다. 결과는 Gaudi2 시스템이 Nvidia의 제품에 비해 단 10% 뒤졌음을 나타냈습니다.

Intel의 장점은 7나노미터 제조 공정 노드에 있으며, 이는 Nvidia의 5나노미터 Hopper GPU보다 약간 크지만 향후 개선을 약속합니다. 다가오는 FP8 정밀도 양자화 도입은 Intel의 AI 추론 작업에 2배의 성능 부스트를 제공할 것으로 예상됩니다. 또한, Intel이 5nm Gaudi3 칩셋을 개발 중이라는 루머가 AI 하드웨어 분야에서 기대감을 고조시키고 있습니다.

Intel은 또한 Habana Gaudi2 칩의 경쟁력 있는 가격을 강조하며 Nvidia의 솔루션에 대한 비용 효율적인 대안으로 positioning했습니다. 그러나 구체적인 가격 정보는 아직 공개되지 않았습니다.

전력 소비에서의 효율성 요소

전력 소비 효율성은 AI 하드웨어 우수성을 추구하는 데 중요한 고려 사항입니다. 이 분야의 또 다른 주요 플레이어인 Qualcomm Inc.는 Qualcomm Cloud AI100 칩셋으로 견고한 성능을 입증했습니다. Qualcomm을 차별화하는 것은 전력의 효율적인 사용으로, 이 측면에서 경쟁사를 능가했습니다. 이 결과는 회사의 AI 하드웨어 지속 가능성에 대한 헌신을 강조합니다.

Qualcomm의 인상적인 성능은 다른 경쟁사보다 낮은 전력 소비를 고려할 때 특히 주목할 만하며, 이는 AI 인프라에서 에너지 사용을 줄이는 데 중점을 둔 조직에게 매력적인 선택이 됩니다.

AI 하드웨어의 향후 개발

Nvidia와 Intel은 AI 하드웨어 제공을 더욱 향상시키기 위해 노력하고 있습니다. Nvidia는 GH200 Grace Hopper Superchip의 AI 추론 성능을 두 배로 늘릴 것으로 약속하는 소프트웨어 업데이트를 출시할 계획이며, 이는 그 리더십 지위를 더욱 공고히 할 것입니다.

Intel도 안주하지 않습니다. Habana Gaudi2 칩을 위한 Intel의 다가오는 FP8 정밀도 양자화 업데이트는 AI 추론 능력을 크게 향상시킬 것으로 예상됩니다. 또한, 루머에 따르면 5nm Gaudi3 칩셋이 시장에 추가적인 혁신을 가져올 수 있어 기대를 모으고 있습니다.

분야의 다른 주요 기업들

Nvidia와 Intel이 주목을 받았지만, AI 산업의 다른 주요 기업들도 그 능력을 선보였습니다. Google LLC는 최신 Tensor Processing Units(TPU)의 프리뷰를 제공했지만 Nvidia의 성능 수준에는 도달하지 못했습니다. 그럼에도 불구하고 Google은 AI 연구 및 개발 분야에서 강력한 힘으로 남아 있습니다.

MLCommons의 최근 벤치마크 테스트 결과는 현재 AI 하드웨어 성능에 대한 귀중한 통찰력을 제공합니다. Nvidia의 지배적 지위와 그 뒤를 바짝 따르는 Intel의 경쟁력 있는 제공은 산업이 AI 하드웨어 능력을 발전시키려는 헌신을 강조합니다. 전력 효율성 고려 사항과 다가오는 혁신으로 AI 하드웨어의 지형은 계속 진화하고 있으며, 곧 더 큰 성능과 효율성을 약속합니다.