Meta запускает собственные ИИ-чипы, ускоряя гонку по снижению зависимости от Nvidia

Meta активнее переходит на собственные ИИ-чипы по мере обострения борьбы за снижение зависимости от Nvidia среди крупных технологических компаний.

Компания заявила, что запустила проект Meta Training and Inference Accelerator (MTIA) в 2023 году и теперь готовит четыре новых поколения чипов в течение следующих двух лет.

По словам Meta, эти чипы allegedly создаются для задач ранжирования, рекомендаций и генеративного ИИ (GenAI) во всех продуктах компании.

Компания также отметила, что не делает ставку на одного поставщика или один тип оборудования. Meta планирует продолжать закупать кремний у нескольких игроков отрасли, сохраняя MTIA в центре своего плана развития собственной ИИ-инфраструктуры.

По словам компании, она придерживается «портфельного подхода» по мере роста и изменения своих ИИ-нагрузок. Это означает сочетание внешних чипов с собственным кремнием вместо передачи всего стека одному вендору.

Meta выпускает четыре поколения чипов MTIA по ускоренному графику

Meta заявила, что уже использует сотни тысяч чипов MTIA для задач вывода (инференса), связанных как с органическим контентом, так и с рекламой в своих приложениях.

Чипы созданы для внутренних задач компании, а не для общего пользования. Это важно, поскольку Meta заявила, что оборудование является частью собственного полностекового решения, что обеспечивает более оптимизированную систему для ежедневных рабочих нагрузок.

Компания заявила, что такая настройка обеспечивает лучшую вычислительную эффективность для конкретных сценариев использования и снижает затраты по сравнению с чипами общего назначения.

Следующий этап — более масштабное развертывание. Meta заявила, что разрабатывает чипы MTIA 300, 400, 450 и 500, каждая из которых обеспечивает прирост вычислительной мощности, пропускной способности памяти и эффективности. MTIA 300 уже находится в производстве и будет использоваться для обучения моделей ранжирования и рекомендаций.

MTIA 400, 450 и 500 могут выполнять все рабочие нагрузки, но Meta заявила, что в ближайшей перспективе и до 2027 года эти чипы будут в основном использоваться для производства инференса GenAI.

Компания также отметила, что кремний является модульным, что позволяет новым чипам интегрироваться в существующую инфраструкцию стоечных систем. Это сокращает время между проектированием и развертыванием.

Что касается скорости выпуска, Meta заявила, что в отрасли обычно новый ИИ-чип появляется раз в один-два года, но теперь у компании есть возможность выпускать собственные чипы каждые шесть месяцев или чаще за счет повторного использования модульных дизайнов.

Стратегия ИИ-чипов Meta строится вокруг инференса и открытых стандартов

Компания заявила, что стратегия MTIA основана на трех компонентах: быстрая итерация, дизайн с приоритетом инференса и легкое внедрение благодаря общим стандартам.

Что касается первого пункта, Meta заявила, что более короткий цикл выпуска помогает ей быстрее адаптироваться к изменениям в технологиях ИИ, внедрять новое аппаратное обеспечение и снижать затраты на разработку и развертывание новых версий чипов.

Что касается второго пункта, Meta провела четкую границу между своим планом и обычной рыночной моделью. Компания заявила, что большинство основных чипов изначально создаются для крупных задач предварительного обучения GenAI, а затем используются для других работ, часто с более высокими затратами.

Meta заявила, что действует наоборот. MTIA 450 и 500 сначала настраиваются для инференса GenAI, а затем используются для обучения и инференса ранжирования и рекомендаций, а также для обучения GenAI при необходимости.

Компания также отметила, что MTIA изначально создана на основе стандартных инструментов и систем, включая PyTorch, vLLM, Triton и проект Open Compute Project (OCP). Ее системные и стоечные дизайны также соответствуют стандартам OCP для использования в центрах обработки данных.

Meta добавила, что ни один чип не может покрыть все ее потребности, поэтому компания планирует развертывать разные чипы для разных рабочих нагрузок, стремясь к тому, что она называет «персональным суперинтеллектом для всех».