Amazon выпускает чип искусственного интеллекта, чтобы бросить вызов доминированию Nvidia и Google

На этой неделе Amazon выпустила свой новейший чип для обучения искусственному интеллекту Trainium3, приближаясь к лидерству на рынке аппаратного обеспечения, удерживаемому Nvidia и Google.

Согласно интервью с Дэйвом Брауном, вицеdent Amazon Web Services, акселератор уже работает в небольшой группе дата-центров AWS и откроется для клиентов во вторник. Дэйв отметил, что компания не собирается останавливаться на достигнутом.

«В начале следующего года мы начнём очень, очень быстро масштабировать свои ресурсы», — сказал он. Цель проста. Продавать больше вычислительных мощностей напрямую со стоек Amazon, а не наблюдать, как разработчики перенаправляют эти средства куда-то ещё.

AWS по-прежнему лидирует в мире по объёмам аренды вычислительных ресурсов и хранилищ. Это лидерство не повлияло на масштабное обучение ИИ. Некоторые разработчики полагаются на Microsoft из-за её связей с OpenAI.

Другие обращаются к Google и её внутренним решениям. Amazon теперь использует Trainium3, чтобы вернуть под свою крышу команды, чувствительные к цене. Основная идея — снижение стоимости за единицу работы при сохранении всех возможностей AWS.

Amazon продвигает Trainium3 в облачном масштабе

Trainium3 выходит примерно через год после того, как Amazon выпустила свою последнюю версию. Этот темп соответствует самым высоким стандартам чипов. Когда чип впервые был запущен в августе, один из инженеров AWS пошутил: «Главное, на что мы будем надеяться, — это чтобы не было ни дыма, ни огня». Быстрый темп обновления также отражает публичный план Nvidia поставлять новый чип каждый год.

Amazon утверждает, что чипы Trainium выполняют сложные вычисления, необходимые для моделей искусственного интеллекта, при меньших затратах и ​​более эффективном энергопотреблении, чем топовые видеокарты Nvidia. Дэйв отметил: «Мы очень довольны тем, что Trainium позволяет нам добиться оптимального соотношения цены и производительности». Компания делает ставку на этот ценовой фактор, поскольку размеры моделей растут, а расходы на обучение продолжают расти.

Предел всё ещё существует. Чипы Amazon не поддерживают глубокие программные библиотеки, которые позволяют командам быстро работать на оборудовании Nvidia. Bedrock Robotics, использующая ИИ для управления строительной техникой без участия человека, размещает свои основные системы на серверах AWS. При обучении моделей управлению экскаватором компания по-прежнему использует чипы Nvidia. Кевин Петерсон, главный технический директор Bedrock Robotics, сказал: «Нам нужно, чтобы всё было производительно и просто в использовании. В этом и есть Nvidia».

Большая часть мощностей Trainium сейчас сосредоточена в Anthropic. Чипы работают в дата-центрах в Индиане, Миссисипи и Пенсильвании. Ранее в этом году AWS заявила, что подключила более 500 000 чипов Trainium для обучения новейших моделей Anthropic. Amazon планирует увеличить это число до 1 миллиона чипов к концу года.

Amazon связывает будущее Trainium с ростом Anthropic и собственными сервисами искусственного интеллекта. Помимо Anthropic, компания пока назвала лишь несколько крупных клиентов. Это оставляет аналитикам ограниченные данные для оценки эффективности Trainium в условиях широкого использования.

Anthropic также распределяет собственные вычислительные риски. Компания по-прежнему использует тензорные процессоры Google и в этом году подписала с Google соглашение, которое предоставляет доступ к вычислительным мощностям стоимостью в десятки миллиардов долларов.

Amazon представила Trainium3 на своей ежегодной конференции пользователей re: Invent. Мероприятие превратилось в непрерывную демонстрацию инструментов и инфраструктуры ИИ, ориентированную на разработчиков, создающих новые модели, и компании, готовые платить за масштабируемый доступ.

Amazon выпускает обновления Nova и открывает Nova Forge

Во вторник Amazon также обновила свою основную линейку ИИ-моделей Nova. Новая линейка Nova 2 включает версию под названием Omni.

Omni принимает текст, изображения, речь или видео в качестве входных данных. Он может отвечать как текстом, так и изображениями. Amazon предлагает набор различных типов входных данных и моделей по разным ценам в виде пакета, предназначенного для ежедневного использования в больших масштабах.

Amazon продолжает устанавливать цены на свои модели, ориентируясь на соотношение производительности и цены на доллар. Предыдущие модели Nova не занимали лидирующие позиции в стандартных тестовых рейтингах, оценивающих ответы на фиксированные вопросы. Компания делает ставку на реальные результаты, а не на тестовые таблицы.

Рохит Прасад, возглавляющий большую часть работы над моделями Amazon и ее команду по разработке искусственного интеллекта общего назначения, сказал: «Настоящим эталоном является реальный мир», и добавил, что он ожидает, что новые модели будут соревноваться в реальных условиях.

Amazon также открывает более глубокий контроль над моделями для продвинутых пользователей с помощью нового продукта под названием Nova Forge, который позволяет командам извлекать версии моделей Nova до завершения обучения и формировать их, используя собственные данные.

Reddit уже использует Nova Forge для создания модели, которая проверяет, нарушает ли публикация правила безопасности. Крис Слоу, главный технический директор Reddit, отметил, что многие пользователи ИИ стремятся к максимально возможной модели для каждой задачи, а не обучают её с узкой направленностью. «В том, что мы можем сделать её экспертом в нашей конкретной области, и заключается её ценность», — сказал он.

С появлением Trainium3 в центрах обработки данных и одновременным обновлением моделей Nova, Amazon наступает сразу на два фронта. Конкуренция за аппаратное обеспечение разворачивается с Nvidia. Продвижению моделей противостоят поддерживаемые Microsoft OpenAI и Google. Следующий этап — практическое использование в облачных масштабах.