Nvidia представила новый ИИ-чип, способный снизить стоимость запуска больших языковых моделей

В рамках стратегии по укреплению своего доминирования на рынке ИИ-оборудования компания Nvidia представила прорывной ИИ-чип GH200, разработанный для оптимизации искусственного интеллекта. На фоне активного развития конкурентов, таких как AMD, Google и Amazon, новое предложение Nvidia призвано укрепить её долю рынка, превышающую 80% в сегменте ИИ-чипов.

Чип GH200 от Nvidia основан на архитектуре её текущего флагманского ИИ-чипа H100. Однако ключевое отличие GH200 заключается в интеграции передовых компонентов: GPU, идентичного тому, что используется в H100, дополненного впечатляющими 141 ГБ памяти и мощным 72-ядерным ARM-процессором. Увеличенная ёмкость памяти позволяет размещать более крупные ИИ-модели на одной системе, оптимизируя обработку и снижая потребность в использовании нескольких GPU или систем.

Решение проблемы масштабируемости

Генеральный директор Nvidia Дженсен Хуанг подчеркнул пригодность GH200 для масштабирования дата-центров по всему миру. Новый чип призван удовлетворить растущий спрос на вычислительные мощности, особенно в дата-центрах, предлагая решение, адаптированное к постоянно расширяющемуся ландшафту ИИ. Этот стратегический шаг согласуется с приверженностью Nvidia предоставлению эффективных решений для дата-центров, сталкивающихся с вычислительными требованиями приложений ИИ.

Попытка противостоять конкуренции

Доминирование Nvidia на рынке чипов для ИИ хорошо известно, особенно благодаря её специализации на графических процессорах (GPU). GPU зарекомендовали себя как предпочтительное оборудование для обработки сложных требований крупных моделей ИИ. Это преимущество позволило Nvidia занять лидирующие позиции в трансформационных технологиях ИИ, включая генеративное программное обеспечение, такое как Bard от Google и ChatGPT от OpenAI. Тем не менее, Nvidia сталкивается с дефицитом поставок, поскольку различные игроки — от технологических гигантов до стартапов — борются за доступ к мощностям GPU для разработки собственных моделей ИИ.

Снижение затрат на инференс за счёт повышения вычислительной мощности

В сфере искусственного интеллекта вычислительный процесс обычно делится на две основные фазы: обучение и инференс. Если обучение включает в себя тонкую настройку моделей с использованием обширных данных и значительных вычислительных ресурсов, то инференс относится к использованию этих обученных моделей для выполнения прогнозов или генерации контента. Инференс является вычислительно затратным процессом, требующим значительной мощности обработки каждый раз при запуске программного обеспечения для таких задач, как генерация текста или изображений. В отличие от обучения, которое происходит эпизодически во время обновлений моделей, инференс выполняется часто.

Nvidia GH200 ориентирована на улучшение возможностей инференса за счёт увеличения объёма памяти — ключевого фактора для эффективного запуска более крупных моделей ИИ. Расширенное распределение памяти позволяет ресурсоёмким моделям ИИ размещаться в рамках одного GPU, устраняя необходимость использования нескольких систем или графических ускорителей для обработки их требований. В результате GH200 имеет потенциал значительно снизить стоимость запуска больших языковых моделей за счёт оптимизации процесса инференса.

Влияние GH200 на ландшафт искусственного интеллекта

Последнее новшество Nvidia представлено в ответ на меняющиеся отраслевые тенденции. AMD, один из ведущих игроков на рынке GPU, недавно анонсировала собственный чип для ИИ — MI300X. Способный поддерживать до 192 ГБ памяти, MI300X позиционируется как эффективное решение для задач инференса ИИ. Тем временем технологические гиганты Google и Amazon активно разрабатывают собственные кастомные чипы для ИИ, чтобы удовлетворить растущий спрос на эффективную обработку инференса.

Взгляд в будущее

Чип GH200 от Nvidia готов революционизировать аппаратное обеспечение для ИИ, повысив эффективность задач инференса. Удовлетворяя растущие вычислительные потребности приложений ИИ, особенно в дата-центрах, Nvidia стремится укрепить свои позиции лидера на рынке чипов для ИИ. С учётом того, что GH200 будет доступен через дистрибьюторов Nvidia во втором квартале следующего года, сообщество ИИ с нетерпением ожидает положительного влияния этой передовой технологии на дальнейшее развитие отрасли. По мере того как Nvidia продолжает внедрять инновации, мир ИИ стоит на пороге трансформационных возможностей.

Презентация чипа GH200 компанией Nvidia знаменует собой значительный скачок вперёд в области технологий аппаратного обеспечения для ИИ. Увеличивая объём памяти и вычислительную мощность, Nvidia стремится оптимизировать процессы вывода ИИ, снижая затраты и повышая эффективность. В отрасли, характеризующейся стремительным развитием, GH200 обещает трансформировать центры обработки данных для ИИ и стимулировать инновации в приложениях на базе ИИ. Пока конкуренты стремятся занять свою нишу в этом ландшафте, приверженность Nvidia расширению границ аппаратного обеспечения для ИИ закладывает основу для динамичного и преобразующего будущего.