Мега-планы OpenAI по созданию города ИИ зависят от прорывов в создании пользовательских чипов

OpenAI набрасывает схему, которая выглядит как чертеж цивилизации, созданной машинами, питаемой ее собственными чипами, собственной инфраструктурой и достаточным количеством электроэнергии для освещения двух Нью-Йорков.

Видение компании огромного города ИИ основано на цели, которую практически невозможно реализовать: проектировании и производстве миллиардов пользовательских чипов в партнерстве с Broadcom для поддержки того, что генеральный директор Сэм Альтман называет «вычислительным хребтом» будущего.

Сэм сказал The Wall Street Journal, что предоставление услуг искусственного интеллекта, которых требуют люди, потребует как минимум один чип, специфичный для ИИ, на пользователя — это ошеломляющая проекция, достигающая миллиардов.

Али Фархади, глава Института Аллена по искусственному интеллекту, поддержал эту оценку, сказав, что если ИИ заменит человеческий труд с обещанной скоростью, «миру потребуется столько же чипов ИИ, сколько у него сейчас обычных». Для OpenAI это вопрос контроля; над затратами, над потреблением энергии и над долгосрочным выживанием своих моделей по мере взрывного роста спроса.

OpenAI связывает Broadcom, Nvidia и гигантов памяти для вычислений следующего поколения

Nvidia, конечно, по-прежнему доминирует в области обучения ИИ, имея около 70% доли рынка, поэтому OpenAI продолжает использовать свои GPU для обучения моделей.

Но теперь OpenAI разделяет конвейер: обучение происходит на Nvidia, а вывод (процесс предоставления ответов пользователям) перемещается на пользовательский кремний Broadcom. Этот двухпутный дизайн может сократить расходы и потребление энергии в масштабах, где важен каждый процентный пункт.

Джордан Нанос, исследователь полупроводников в SemiAnalysis, сказал, что Broadcom помогает OpenAI «перекомпоновать типичный рецепт чипа ИИ». Эти чипы не будут универсальными. Они разрабатываются специально для моделей OpenAI, которые полагаются на память с высокой пропускной способностью, поставляемую Samsung и SK Hynix, двумя компаниями, с которыми недавно заключили партнерство.

Такой тип памяти позволяет быстрее перемещать данные между процессорами, что критически важно для систем, таких как Pulse от OpenAI, агент ИИ, который ежедневно сканирует веб-сайт для подготовки брифингов для пользователей. Pulse потребляет столько вычислительной мощности, что, по словам Сэма, он ограничен теми, кто платит $200 в месяц за тариф Pro.

Эта зависимость от памяти с высокой пропускной способностью напрямую связана с тем, как работают модели OpenAI. Ранние нейронные сети были «плотными», активируя большие разделы своих систем для каждого запроса. Новые используют «разреженность», которая активирует только определенные экспертные разделы.

Вместо использования 25% модели для ответа на вопрос, современные системы активируют лишь долю процента. Эта разница резко снижает энергопотребление и ускоряет время отклика. Когда чип построен вокруг этой разреженной логики, эффективность взлетает, и именно Broadcom делает это оборудование возможным.

Суперкомпьютеры OpenAI гигаваттного масштаба переопределяют инфраструктуру

Сэм сказал, что текущий вычислительный охват OpenAI составляет около 2 гигаватт, распределенных по глобальным дата-центрам. Партнерство с Broadcom направлено на увеличение мощности до 10 гигаватт к 2030 году, формируя физическую базу для того, что инсайдеры называют городами ИИ — плотными кампусами серверов, хранилищ и пользовательских соединений, объединенных сетевыми чипами Tomahawk Ultra от Broadcom.

Это лишь часть волны. За последние три недели OpenAI заключила новые договоры о мощности на 16 гигаватт с AMD и Nvidia, доведя общую сумму до уровней, которые могут потребовать инвестиций почти в $1 триллион.

Комплекс Memphis Colossus от xAI уже достиг 1,21 гигаватта этой осенью. Объект Hyperion от Meta в Луизиане получил разрешение на 2,3 гигаватта, при этом Марк Цукерберг нацеливается на 5 гигаватт. Гонка за энергией для ИИ официально стала глобальной.

Сэм описал эту трансформацию как «самый большой совместный промышленный проект в истории», сказав, что даже эти сделки — «капля в море по сравнению с тем, куда нам нужно прийти». Часть его цели — диверсифицировать поставщиков.

Кампус Stargate в Эйблене, штат Техас, строящийся компанией Oracle, будет сосредоточен на обучении ИИ, в основном на чипах Nvidia. Оборудование AMD будет обрабатывать рабочие нагрузки вывода, а пользовательский кремний Broadcom заполнит пробел в эффективности.

Как выразился Нанос, «OpenAI смотрит довольно далеко в будущее и пытается убедиться, что у них есть доступ к достаточному количеству поставок чипов».