NVIDIA намерена отвоевать территорию у Intel и AMD

31 мая NVIDIA объявила о начале полномасштабного производства своего процессора Vera, позиционируя 88-ядерный чип как первый в индустрии центров обработки данных процессор, разработанный специально для рабочих нагрузок с использованием ИИ-агентов. Согласно пресс-релизу компании, среди первых пользователей, планирующих развертывание своих решений, значатся Anthropic, OpenAI, SpaceXAI, Oracle Cloud Infrastructure, ByteDance и CoreWeave.

Этот чип представляет собой наиболее агрессивное наступление NVIDIA за пределы рынка графических процессоров на рынок центральных процессоров, который десятилетиями доминировали Intel и AMD. Если предыдущий серверный чип NVIDIA на базе ARM, Grace, был продан тиражом около 2,5 миллионов единиц, то Vera использует полностью собственную архитектуру ядра под названием Olympus, а не лицензирует готовое ядро ​​ARM, как сообщает Tom's Hardware.

Почему рабочие нагрузки ИИ-агентовdefiтребования к процессорам в центрах обработки данных

Экономика центров обработки данных для искусственного интеллекта изменилась. По мере того, как модели переходят от ответа на вопросы к выполнению кода, запуску программ и координации сложных задач, центральный процессор становится ключевым фактором. Дженсен Хуанг, генеральный директор NVIDIA, прямо описал потенциал: «Агенты ИИ станут крупнейшими пользователями вычислительных ресурсов… Vera — это первый процессор, разработанный для этого будущего, созданный для запуска агентного ИИ в гипермасштабе с исключительной производительностью, эффективностью и программируемостью».

Технические характеристики Vera демонстрируют её потенциал. Она оснащена 88 ядрами Olympus, а также технологией пространственной многопоточности компании, дополненной системой памяти LPDDR5X, обеспечивающей пропускную способность до 1,2 ТБ в секунду при потреблении менее 30 Вт мощности памяти. По данным производителя, Vera может выполнять задачи в 1,8 раза быстрее, чем процессоры x86, при работе с приложениями искусственного интеллекта, такими как компиляция кода, выполнение Python, Java и манипулирование базами данных.

Независимоеdent проведенное компанией Phoronix с использованием бенчмарков, выбранных NVIDIA, показало, что Vera компилирует ядро ​​Linux за 20 секунд (в односокетной конфигурации), обеспечивая прирост производительности на 10% по сравнению с AMD EPYC 9575F, работающим на частоте 5,0 ГГц, как утверждается в блоге NVIDIA. Основатель Phoronix, Майкл Ларабель, заявил , что Vera «в итоге демонстрирует впечатляющие конкурентоспособные характеристики по сравнению с процессорами Intel/AMD x86_64, которых я никогда не видел ни у одного другого процессора ARM или не-x86_64».

Однако, это не исключает возможности использования указанных выше бенчмарков, поскольку они были выбраны и проведены самой компанией NVIDIA.dent тестирование до сих пор не проводилось.

Первые примеры внедрения на рынке: лаборатории искусственного интеллекта, крупные облачные компании и крупные предприятия

В число клиентов Vera входят научно-исследовательские институты в области искусственного интеллекта , крупные облачные компании и финансовые инфраструктурные предприятия. В своем заявлении президент Нью-Йоркской фондовой биржи Линн Мартин сообщилаdent биржа, обрабатывающая более 1,1 триллиона сообщений в день, намерена использовать Vera совместно с Redpanda и Hewlett Packard Enterprise для увеличения пропускной способности и снижения задержек.

По словам Джеймса Брэдбери, руководителя отдела вычислительных ресурсов в Anthropic, компания оценивает Vera для ресурсоемких задач, связанных с агентными вычислениями. «Масштабирование вычислительных ресурсов является важным фактором ускорения роста моделей», — сказал Брэдбери. «Мы рады видеть, что Vera становится перспективным элементом экосистемы при решении задач, связанных с агентными вычислениями»

Oracle Cloud Infrastructure планирует стать первым гипермасштабным провайдером, использующим Vera, а исполнительный вице-dent OCI Махеш Тиагараджан назвал ее «следующим рубежом в области гипермасштабных суперкомпьютерных вычислений с использованием искусственного интеллекта».

Что касается производства оборудования, Dell Technologies, HPE, Lenovo и Supermicro будут предлагать Vera в автономных серверных конфигурациях с процессорами. NVIDIA описала это как «первый стандартный вариант процессора, выходящий за рамки x86», от крупных OEM-производителей. Тайваньские производители, включая ASUS, Foxconn, GIGABYTE, Quanta Cloud Technology иtron, также занимаются сборкой систем.

Более широкая интеграция в рамках всей инфраструктуры искусственного интеллекта NVIDIA

Vera идеально вписывается в концепцию экосистемы NVIDIA для создания полнофункциональных фабрик ИИ. Vera работает в качестве центрального процессора платформы Vera Rubin, которая взаимодействует с графическими процессорами Rubin, используя технологию NVLink-C2C второго поколения с пропускной способностью 1,8 ТБ/с. Кроме того, Vera является частью платформы BlueField-4 STX в плане сетевых возможностей и хранения данных. Как сообщает Dealroom, Ян Бак, руководитель NVIDIA, поставил первые экземпляры Vera таким клиентам, как Anthropic в Сан-Франциско и SpaceXAI в Пало-Альто.

Цепочка поставок памяти отреагировала незамедлительно. DIGITIMES сообщает, что решение NVIDIA коммерциализировать Vera как отдельный чип создает спрос на энергоэффективную DRAM, что, в свою очередь, усиливает нагрузку на и без того ограниченную цепочку поставок микросхем памяти.

На что обратить внимание, когда Vera перейдет в фазу развертывания

Системы Vera начнут поставляться партнерам и облачным провайдерам в третьем квартале этого года. Однако необходимо рассмотреть некоторые вопросы, в том числе, подтверждают ли результатыdent тестов в различных приложениях заявленные NVIDIA показатели производительности и сможет ли специализированный чип Olympus конкурировать с возможностями программного обеспечения x86 в плане совместимости с приложениями. На данный момент ясно одно: NVIDIA больше не довольствуется владением только ускорителем. Она хочет получить весь стек решений для центров обработки данных в области ИИ.