Компания Broadcom представила чип Tomahawk Ultra, способный составить конкуренцию Nvidia

Во вторник подразделение Broadcom, занимающееся производством микросхем, представило новый сетевой процессор, предназначенный для ускорения обработки задач искусственного интеллекта, требующих тесной координации между сотнями вычислительных блоков.

Это объявление знаменует собой очередной залп в борьбе с лидером в производстве чипов для искусственного интеллекта, компанией Nvidia. Новейшее устройство Broadcom, известное как Tomahawk Ultra, служит контроллером трафика, передавая огромные объемы данных между десятками или даже сотнями кремниевых чипов, размещенных в одной серверной стойке.

Tomahawk Ultra напрямую бросает вызов Nvidia

Обучение и вывод данных в рамках искусственного интеллекта основаны на «масштабируемых» вычислениях, при которых чипы располагаются в непосредственной близости друг от друга для обмена данными с невероятной скоростью. До сих пор коммутатор NVLink от Nvidia был лучшим в этом отношении, но Broadcom утверждает, что его новинка может объединять до четырех раз больше процессоров в одной сети.

Вместо проприетарного межсоединения, Ultra использует улучшенную версию Ethernet, оптимизированную для низкой задержки и высокой пропускной способности. Рам ВелагаBroadcomdent и генеральный директор группы коммутационных устройств Broadcom, сообщил журналистам, что чип может управлять обменом данными между гораздо большим количеством устройств, чем конкурирующий продукт Nvidia, при этом используя широко поддерживаемый протокол.

«Tomahawk Ultra — это свидетельство инноваций, результат многолетней работы сотен инженеров, которые переосмыслили каждый аспект коммутатора Ethernet»

Велага.

«Это подчеркивает стремление Broadcom инвестировать в развитие Ethernet для высокопроизводительных сетей и масштабирования искусственного интеллекта», — добавил Велага.

Компания Broadcom уже предоставляет услуги по производству чипов таким клиентам, как Google, помогая поисковому гиганту создавать собственные ускорители искусственного интеллекта в качестве альтернативы графическим процессорам Nvidia.

С началом поставок Tomahawk Ultra компания надеется еще больше подорвать доминирование Nvidia, предложив архитекторам центров обработки данных коммутатор, масштабируемый до более крупных кластеров с аналогичной или даже большей скоростью.

Инженеры Broadcom потратили на разработку около трех лет

Процессоры будут производиться компанией Taiwan Semiconductor Manufacturing Co. с использованием пятинанометрового техпроцесса, того же передового процесса, который лежит в основе многих самых быстрых в мире чипов. Велага отметил, что инженерные группы Broadcom потратили около трех лет на разработку, первоначально ориентируясь на рынки высокопроизводительных вычислений, а затем переключившись на бурно развивающийся сектор генеративного искусственного интеллекта.

«Рабочие нагрузки в области искусственного интеллекта и высокопроизводительных вычислений сходятся в тесно связанных кластерах ускорителей, которые требуют задержки уровня суперкомпьютеров, что критически важно для вывода данных, надежности и внутрисетевого интеллекта, обеспечиваемого самой сетевой инфраструктурой», — сказал Кунджан Собхани, ведущий аналитик по полупроводниковым технологиям в Bloomberg Intelligence.

«Демонстрация того, что Ethernet с открытыми стандартами теперь может обеспечивать коммутацию за доли микросекунды, передачу данных без потерь и коллективные операции на кристалле, является важным шагом на пути к удовлетворению этих требований масштабируемой архитектуры искусственного интеллекта, которая, по прогнозам, через несколько лет достигнет двузначных миллиардов»

Собхани.

В традиционных масштабируемых конфигурациях серверы распределены по стойкам и связаны стандартными сетями, что приводит к задержке. Масштабирование вверх, напротив, удерживает вычислительные элементы в пределах узкой физической площади, часто в одной стойке, поэтому биты передаются туда и обратно за микросекунды. Такая скорость жизненно важна при обучении масштабных нейронных сетей или выполнении вычислений в реальном времени.

По мере того как модели ИИ становятся все больше, начинается гонка за созданием инфраструктуры, способной обрабатывать эксабайты параметров, оставаясь при этом экономичной и энергоэффективной. Внедряя Ethernet, хорошо известный открытый стандарт, и расширяя его возможности, Broadcom надеется предложить операторам центров обработки данных более простой путь к расширению своих ферм ИИ, не будучи привязанными к экосистеме одного поставщика.

С появлением Tomahawk Ultra у клиентов конкуренция за поставку движков искусственного интеллекта в мире вступает в новую, более конкурентную фазу, где открытость и масштаб могут склонить чашу весов в той же степени, что и чистая вычислительная мощность чипов. Это также ставит Broadcom на путь к тому, чтобы стать серьезным игроком в индустрии ИИ.

компания . считалась одним из крупнейших игроков, которые могли бы приобрести долю в заводах Intel и управлять ими совместно с TSMC, Nvidia и AMD в рамках сделки, предположительно предложенной TSMC