Тестирование MLCommons показывает, что Nvidia и Intel лидируют в производительности аппаратного обеспечения ИИ

В недавнем выпуске результатов от консорциума MLCommons, независимой организации, занимающейся оценкой чипсетов ИИ, стала известна производительность различных аппаратных средств ИИ. Результаты показывают, что передовые чипы Nvidia вышли в лидеры, а аппаратное обеспечение Intel следует за ними в непосредственной близости.

Доминирование Nvidia в производительности аппаратного обеспечения ИИ

В постоянно меняющемся ландшафте ИИ производительность аппаратного обеспечения является критическим фактором для достижения успеха. Nvidia, известный игрок в отрасли ИИ, продемонстрировал свое мастерство в последнем раунде тестирования, проведенном MLCommons. Два самых передовых чипа Nvidia, суперчип GH200 Grace Hopper и система HGX 100, показали замечательные результаты в нескольких тестовых испытаниях в рамках оценки MLPerf.

Суперчип Nvidia GH200 Grace Hopper, который объединяет GPU Hopper и CPU Grace в одном чипе, продемонстрировал выдающиеся возможности. Он преуспел в отношении памяти, пропускной способности и оптимизации задач между GPU и процессором на базе Arm. Этот инновационный подход привел к среднему улучшению производительности примерно на 17% по сравнению с системой HGX 100.

Комплексная оценка охватила различные задачи ИИ, включая компьютерное зрение, распознавание речи, медицинскую визуализацию и более сложные нагрузки, такие как вывод больших языковых моделей (LLM) и рекомендательные системы. Аппаратное обеспечение Nvidia неизменно превосходило конкурентов, подтверждая его доминирующее положение в индустрии ИИ.

Intel’s Habana Gaudi2 makes Its mark

Через свою дочернюю компанию Habana Labs, корпорация Intel представила свои ускорители Habana Gaudi2 как серьезных конкурентов в секторе аппаратного обеспечения ИИ. Несмотря на сильное выступление Nvidia, система Gaudi2 продемонстрировала свои возможности, заняв удивительно близкое второе место. Результаты показали, что система Gaudi2 отстала от предложения Nvidia всего на 10%.

Преимущество Intel заключается в его семинанометровом производственном процессе, который, хотя и немного крупнее, чем пятинанометровый GPU Hopper от Nvidia, обещает будущие улучшения. Ожидается, что предстоящее внедрение квантования с точностью FP8 обеспечит двукратное повышение производительности задач вывода ИИ от Intel. Кроме того, по слухам, Intel работает над чипсетом Gaudi3 с техпроцессом 5 нм, что усиливает предвкушение на арене аппаратного обеспечения ИИ.

Intel также подчеркнула конкурентоспособное ценообразование своего чипа Habana Gaudi2, позиционируя его как экономичную альтернативу решениям Nvidia. Однако конкретные детали ценообразования пока не раскрываются.

Фактор энергоэффективности

Эффективность в потреблении энергии является значимым фактором при стремлении к совершенству в аппаратном обеспечении ИИ. Qualcomm Inc., еще один заметный игрок в этой области, продемонстрировал высокую производительность со своим чипсетом Qualcomm Cloud AI100. То, что отличает Qualcomm, — это эффективное использование энергии, превосходящее конкурентов в этом аспекте. Результаты подчеркивают приверженность компании устойчивости в аппаратном обеспечении ИИ.

Впечатляющая производительность Qualcomm особенно примечательна на фоне ее более низкого энергопотребления по сравнению с другими конкурентами, что делает ее привлекательным выбором для организаций, ориентированных на снижение энергопотребления в инфраструктуре ИИ.

Предстоящие разработки в области аппаратного обеспечения ИИ

Nvidia и Intel привержены дальнейшему совершенствованию своих предложений в области аппаратного обеспечения ИИ. Nvidia планирует выпустить обновление программного обеспечения, которое, как ожидается, удвоит производительность вывода ИИ для ее суперчипа GH200 Grace Hopper, тем самым укрепляя ее лидерские позиции.

Intel также не собирается останавливаться на достигнутом: ожидаемое обновление для чипа Habana Gaudi2 с квантованием точности FP8 должно значительно улучшить возможности вывода ИИ. Кроме того, слухи о чипсете Gaudi3 с техпроцессом 5 нм вызывают предвкушение, так как он может принести на рынок дальнейшие инновации.

Другие ключевые игроки в этой области

В то время как Nvidia и Intel захватили внимание, другие значимые игроки в отрасли ИИ также продемонстрировали свои возможности. Google LLC предоставила предварительный просмотр своих последних тензорных процессоров (TPU), но не достигла уровня производительности Nvidia. Тем не менее, Google остается серьезной силой в исследованиях и разработках в области ИИ.

Недавние результаты тестовых испытаний MLCommons предоставляют ценную информацию о текущем состоянии производительности аппаратного обеспечения ИИ. Доминирование Nvidia, за которым следуют конкурентоспособные предложения Intel, подчеркивает приверженность отрасли развитию возможностей аппаратного обеспечения ИИ. С учетом энергоэффективности и предстоящих инноваций ландшафт аппаратного обеспечения ИИ продолжает развиваться, обещая в ближайшее время еще большую производительность и эффективность.