Nvidia и Llama 3.1 помогают предприятиям создавать суперкомпьютеры

Nvidia, многонациональная корпорация и технологическая компания, объявила о выпуске новой услуги, которая помогает предприятиям и странам создавать специализированные суперкомпьютеры с использованием новейшей версии LLM от Meta, Llama 3.1. 

Компания Nvidia выпустила два новых сервиса, ориентированных на предприятия и страны. Технологический гигант представил сервис в рамках Nvidia AI Foundry и микросервисы для выполнения инференции в рамках NVIDIA NIM. Оба сервиса используют новейшую библиотеку LLM с открытым исходным кодом от Meta, Llama 3.1, и могут создавать суперкомпьютеры для генеративного искусственного интеллекта. 

Nvidia AI Foundry поможет предприятиям и странам создавать супермодели LLM, адаптированные под конкретные отраслевые требования и потребности. Это стало возможным благодаря использованию Llama 3.1, а также программного обеспечения, оборудования и специалистов Nvidia. Предприятия и страны смогут обучать эти супермодели, используя собственные данные или синтетические данные, сгенерированные с помощью Llama 3.1 и модели вознаграждения Nvidia Nemotron .

Читайте также: Илон Маск заявил, что Tesla начнет использовать человекоподобных роботов в 2025 году.

Выпущенная сегодня версия Llama 3.1 имеет 405 миллиардов параметров и позиционируется как конкурент закрытой модели ИИ, такой как ChatGPT и Gemini. Meta постоянно совершенствует Llama, предоставляя дополнительные компоненты, работающие с этой моделью. Meta и Nvidia объединили усилия для интеграции Llama 3.1 в сервисы Nvidia, сделав решение доступным с первого дня. Генеральный директор Nvidia, Дженсен Хуанг, сказал:

«…NVIDIA AI Foundry интегрировала Llama 3.1 во все свои системы и готова помочь предприятиям создавать и развертывать собственные супермодели Llama»  

Генеративные модели искусственного интеллекта Llama 3.1 обучены на более чем 16 000 графических процессорах Nvidia H100 Tensor Core. Кроме того, они оптимизированы для ускоренных вычислений и программного обеспечения Nvidia, что позволяет развертывать их в центрах обработки данных, облачных средах и на персональных компьютерах с графическими процессорами.

Читайте также: Meta представила самую большую версию модели искусственного интеллекта Llama 3.

В настоящее время многие компании по всему миру имеют доступ к микросервисам NIM для Llama. Accenture стала первым клиентом, создавшим собственные супермодели Llama для Aramco, AT&T и Uber. Эти корпорации первыми получат доступ к микросервисам NIM с использованием Llama 3.1. После успешного создания пользовательских моделей предприятие может выбрать микросервисы Nvidia, платформу операций и облачную платформу для запуска моделей. 

На прошлой неделе компания Mistral AI выпустила новую 12-битную модель под названием Mistral NeMo в сотрудничестве с Nvidia. Эта модель доступна в качестве микросервиса Nvidia NIM для выполнения инференции. Что касается нового графического процессора, один из инсайдеров заявил, что компания выпустит новое поколение RTX 5090D только для китайского рынка. Новый графический процессор станет преемником RTX 4090D.