Broadcom представляет чип Tomahawk Ultra для конкуренции с Nvidia

Чиповое подразделение Broadcom во вторник выпустило новый сетевой процессор, предназначенный для ускорения рабочих нагрузок искусственного интеллекта, требующих тесной координации среди сотен вычислительных блоков.

Это объявление отмечает еще один выпад в его борьбе с лидером производства ИИ-чипов, Nvidia. Это новейшее устройство Broadcom, известное как Tomahawk Ultra, служит контроллером трафика, перемещая огромные объемы данных между десятками или даже сотнями кремниевых чипов, размещенных в одной серверной стойке.

Tomahawk Ultra напрямую бросает вызов Nvidia

Обучение и вывод ИИ полагаются на вычисления «scale-up», где чипы кластеризуются близко друг к другу для обмена данными на ошеломляющих скоростях. До сих пор здесь безраздельно властвовал коммутатор NVLink от Nvidia, но Broadcom утверждает, что его новичок может связывать в четыре раза больше процессоров в одной сети.

Вместо того чтобы полагаться на проприетарное соединение, Ultra использует турбо-усиленную версию Ethernet, усиленную для низкой задержки и высокой пропускной способности. Рам Велага, старший вице-президент и генеральный менеджер группы коммутации Broadcom, сообщил репортерам, что чип может управлять связью между гораздо большим количеством устройств, чем конкурирующий продукт Nvidia, при этом используя широко поддерживаемый протокол.

«Tomahawk Ultra — это свидетельство инноваций, включающее многолетние усилия сотен инженеров, которые переосмыслили каждый аспект коммутатора Ethernet».

Велага.

«Это подчеркивает приверженность Broadcom инвестициям в развитие Ethernet для высокопроизводительных сетей и масштабирования ИИ», — добавил Велага.

Broadcom уже поставляет услуги по производству чипов клиентам, таким как Google, помогая гиганту поиска собирать свои собственные ИИ-ускорители в качестве альтернативы GPU Nvidia.

Сейчас, когда Tomahawk Ultra уже отгружается, компания надеется еще больше подорвать доминирование Nvidia, предложив архитекторам дата-центров коммутатор, который масштабируется до больших кластеров с аналогичной или лучшей скоростью.

Инженеры Broadcom потратили около трех лет на разработку

Процессоры будут изготовлены Taiwan Semiconductor Manufacturing Co. с использованием его пятинанометрового узла, того же передового процесса, который лежит в основе многих самых быстрых чипов в мире. Велага отметил, что инженерные команды Broadcom потратили примерно три года на разработку, изначально ориентируясь на рынки высокопроизводительных вычислений, прежде чем переключиться на бурно растущий сектор генеративного ИИ.

«Рабочие нагрузки ИИ и HPC сходятся в тесно связанных кластерах ускорителей, которые требуют задержки уровня суперкомпьютера, критичной для вывода, надежности и встроенной интеллектуальности самой сети», — сказал Кунжан Собхани, ведущий аналитик по полупроводникам, Bloomberg Intelligence.

«Демонстрация того, что открытый стандарт Ethernet теперь может обеспечивать коммутацию с субмикросекундной задержкой, без потерь транспорт и внутричиповые коллективы, отмечает поворотный момент в удовлетворении требований стека масштабирования ИИ, который, как прогнозируется, достигнет десятков миллиардов долларов в ближайшие годы».

Собхани.

В традиционных настройках scale-out серверы распределены по стойкам и связаны через стандартные сети, что добавляет задержку. Scale-up, напротив, сохраняет вычислительные элементы в узком физическом пространстве, часто в одной стойке, так что биты летают туда-сюда за микросекунды. Такая скорость жизненно важна при обучении огромных нейронных сетей или выполнении вывода в реальном времени.

По мере того как модели ИИ становятся все больше, идет гонка за проектирование инфраструктуры, способной обрабатывать экзабайты параметров, оставаясь при этом экономически эффективной и энергоэффективной. Принимая хорошо понятный открытый стандарт Ethernet и расширяя его границы производительности, Broadcom надеется предложить операторам дата-центров более легкий путь к расширению своих ИИ-ферм, не будучи привязанными к экосистеме одного поставщика.

Сейчас, когда Tomahawk Ultra уже в руках клиентов, борьба за то, кто поставляет ИИ-двигатели мира, вступает в новую, более насыщенную фазу, где открытость и масштаб могут уравновесить баланс так же сильно, как и сырая мощность чипов. Это также выводит Broadcom на путь становления силой, с которой придется считаться в ИИ-индустрии.

Компания в первом квартале была названа одной из крупных фирм, которые могут владеть долей и совместно управлять фабриками Intel вместе с TSMC, Nvidia и AMD в сделке, предложенной TSMC.