Чип NVIDIA стоимостью $20B может заставить ChatGPT выглядеть медленным

Чиповый гигант NVIDIA готовится представить мощный новый процессор искусственного интеллекта, предназначенный для ускорения генерации ответов чат-ботами и другими инструментами ИИ, что потенциально сделает сегодняшние системы, такие как ChatGPT медлительными по сравнению с ним.

Новая платформа, ожидаемый дебют которой состоится на ежегодной конференции разработчиков GTC компании NVIDIA, оптимизирована для вывода ИИ (инференса) — этапа, когда обученные модели генерируют ответы на запросы пользователей. В отличие от традиционных графических процессоров (GPU), созданных для обработки как обучения, так и вывода, предстоящий процессор фокусируется исключительно на более быстрой и эффективной генерации ответов.

Продукт, если будет запущен, станет первым осязаемым результатом сделки декабря, которая привела основателей Groq в команду, чья компания специализируется на оборудовании для высокоскоростной обработки данных ИИ.

В конце прошлого года, по сообщениям, NVIDIA потратила около 20 миллиардов долларов на лицензирование технологий у стартапа в области чипов Groq и привлечение ключевых сотрудников, включая его генерального директора. Примерно в то же время генеральный директор NVIDIA Дженсен Хуанг сказал сотрудникам: «Мы планируем интегрировать процессоры с низкой задержкой Groq в архитектуру фабрики ИИ NVIDIA, расширяя платформу для обслуживания еще более широкого спектра задач вывода ИИ и обработки в реальном времени».

Теперь ожидается, что новый чип для вывода будет обрабатывать сложные запросы ИИ с высокой скоростью, и оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии. и другие ведущие клиенты, вероятно, примут его, согласно The Wall Street Journal. В их отчете также показано, что новый чип может обрабатывать около 10% рабочих нагрузок по выводу OpenAI.

Чип в стиле Groq, по словам источников, будет использовать SRAM

Во время недавнего звонка по вопросам отчетности генеральный директор NVIDIA намекнул, что несколько новых продуктов будут представлены на предстоящем мероприятии GTC, которое часто называют «Суперкубком ИИ». Он заметил: «У меня есть несколько отличных идей, которыми я хотел бы поделиться с вами на GTC». 

Большинство аналитиков согласны, что чип в стиле Groq может быть частью линейки. Они также заявили, что его дизайн может пролить свет на то, как NVIDIA намерена решить проблемы с памятью в вычислительных задачах вывода. Такие платформы обычно работают на памяти с высокой пропускной способностью (HBM). Однако в последнее время с поставками HBM были трудности.

Инсайдеры заявлял сообщили, что компания планирует использовать SRAM в чипе вместо динамической памяти, связанной с HBM. В идеале SRAM более доступен и может улучшить производительность рабочих нагрузок по логическому выводу ИИ.

Если чип будет представлен, это может стать большим шагом вперед для чиповой компании и моделей, обученных ИИ. Однако, говоря о возможном запуске, Сид Шет, основатель и генеральный директор d-Matrix, бросил тень на его разработку. Он отметил, что, хотя NVIDIA остается явным лидером в обучении ИИ, вывод представляет собой совершенно иную картину. Он поделился: «Разработчики могут обратиться к конкурентам, отличным от NVIDIA, потому что запуск готовых моделей ИИ не требует такого же программирования, как их обучение». 

Тем не менее, другие технологические гиганты также развивают вычислительные мощности для вывода моделей. На этой неделе Meta представила четыре процессора, специально разработанных для инференса, что побудило одного из инвесторов Кремниевой долины заявить, что отрасль, возможно, вступает в фазу, не доминируемую «NVIDIA».

Однако в последнее время Джун Пак, генеральный директор конкурента NVIDIA компании FuriosaAI, комментируя преимущества легко развертываемых вычислений для инференса, предупредила, что большинство дата-центров не способны разместить новейшие GPU с жидкостным охлаждением.

Тем не менее, несмотря на его опасения, аналитики Bank of America ожидают, что к 2030 году нагрузки на инференс составят 75% расходов на ИИ-дата-центры, когда объем рынка достигнет примерно 1,2 трлн долларов США, по сравнению с примерно 50% в прошлом году. Бен Баджарин, технологический аналитик Creative Strategies, также утверждал, что дата-центры будущего не будут соответствовать модели «один размер для всех», прогнозируя, что компании будут применять различные подходы к разработке чипов и инфраструктуры.

Ожидается, что NVIDIA выпустит чипы Vera Rubin во второй половине 2026

NVIDIA также недавно выпустила свои чипы для ИИ следующего поколения — Vera Rubin AI, ожидая, что рост платформ рассуждающего ИИ, таких как моделей DeepSeek будет стимулировать еще больший спрос на вычислительные мощности. Компания заявила, что эти чипы помогут обучать более крупные ИИ-модели и предоставлять более сложные результаты более широкой аудитории пользователей. 

По словам Хуанга, Rubin также появится на рынке во второй половине 2026 года, а высокопроизводительная версия «ultra» выйдет в 2027 году.

Он также объяснил, что одна система Rubin объединит 576 отдельных GPU в один чип. В настоящее время кластеры чипов NVIDIA Blackwell в системе NVL72 объединяют 72 GPU, что означает, что Rubin будет обладать более совершенной памятью.