Broadcom stellt den Tomahawk Ultra-Chip als Konkurrenz zu Nvidia vor

Broadcoms Chipsparte hat am Dienstag einen neuen Netzwerkprozessor vorgestellt, der für die Beschleunigung von KI-Workloads entwickelt wurde, die eine enge Koordination zwischen Hunderten von Recheneinheiten erfordern.

Die Ankündigung markiert einen weiteren Vorstoß im Wettbewerb mit dem KI-Chip-Marktführer Nvidia. Das neueste Broadcom-Gerät, bekannt als Tomahawk Ultra, fungiert als Traffic-Controller und leitet riesige Datenmengen zwischen Dutzenden oder sogar Hunderten von Siliziumchips innerhalb eines einzigen Server-Racks weiter.

Tomahawk Ultra stellt Nvidia direkt in Frage

KI-Training und -Inferenz basieren auf Scale-up-Computing, bei dem Chips eng beieinander liegen, um Daten in rasanter Geschwindigkeit auszutauschen. Bislang war Nvidias NVLink Switch für diese Aufgabe unübertroffen, doch Broadcom behauptet, sein neues Produkt könne bis zu viermal so viele Prozessoren in einem einzigen Netzwerk verbinden.

Anstatt auf eine proprietäre Verbindungstechnologie zu setzen, nutzt der Ultra eine optimierte Ethernet-Version mit geringer Latenz und hohem Durchsatz. Ram Velaga, Senior Vicedent und General Manager der Core Switching Group von Broadcom, erklärte gegenüber Reportern, dass der Chip die Kommunikation zwischen deutlich mehr Einheiten verwalten kann als das Konkurrenzprodukt von Nvidia – und das alles mit einem weit verbreiteten Protokoll.

„Tomahawk Ultra ist ein Beweis für Innovation und das Ergebnis jahrelanger Arbeit von Hunderten von Ingenieuren, die jeden Aspekt des Ethernet-Switches neu konzipiert haben.“

Velaga.

„Dies unterstreicht Broadcoms Engagement, in die Weiterentwicklung von Ethernet für leistungsstarke Netzwerke und die Skalierung von KI zu investieren“, fügte Velaga hinzu.

Broadcom bietet bereits Chip-Herstellungsdienstleistungen für Kunden wie Google an und hilft dem Suchmaschinenriesen dabei, eigene KI-Beschleuniger als Alternative zu Nvidia-GPUs.

Da der Tomahawk Ultra jetzt ausgeliefert wird, hofft das Unternehmen, die Dominanz von Nvidia weiter zu untergraben, indem es Rechenzentrumsarchitekten einen Switch anbietet, der sich mit ähnlichen oder sogar besseren Geschwindigkeiten auf größere Cluster skalieren lässt.

Die Broadcom-Ingenieure verbrachten etwa drei Jahre mit der Entwicklung

Die Prozessoren werden von Taiwan Semiconductor Manufacturing Co. (TSMC) im 5-Nanometer-Verfahren gefertigt – demselben fortschrittlichen Prozess, der auch vielen der weltweit schnellsten Chips zugrunde liegt. Velaga merkte an, dass die Entwicklungsteams von Broadcom rund drei Jahre in die Entwicklung investierten und sich ursprünglich auf den Markt für Hochleistungsrechner konzentrierten, bevor sie sich dem boomenden Sektor der generativen KI zuwandten.

„KI- und HPC-Workloads konvergieren in eng gekoppelten Beschleunigerclustern, die Latenzzeiten auf Supercomputer-Niveau erfordern, welche für Inferenz, Zuverlässigkeit und netzwerkinterne Intelligenz aus der Infrastruktur selbst von entscheidender Bedeutung sind“, sagte Kunjan Sobhani, leitender Halbleiteranalyst bei Bloomberg Intelligence.

„Der Nachweis, dass Ethernet nach offenen Standards jetzt Sub-Mikrosekunden-Umschaltzeiten, verlustfreie Übertragung und On-Chip-Kollektivierung ermöglichen kann, ist ein entscheidender Schritt zur Erfüllung der Anforderungen eines KI-Scale-up-Stacks, der in wenigen Jahren voraussichtlich zweistellige Milliardenbeträge erreichen wird.“

Sobhani.

Bei herkömmlichen Scale-Out-Architekturen sind die Server über mehrere Racks verteilt und über Standardnetzwerke verbunden, was zu Latenzzeiten führt. Scale-Up hingegen hält die Recheneinheiten auf engstem Raum, oft in einem einzigen Rack, sodass Daten innerhalb von Mikrosekunden übertragen werden. Diese Geschwindigkeit ist entscheidend für das Training großer neuronaler Netze oder die Echtzeit-Inferenz.

Da KI-Modelle immer größer werden, ist ein Wettlauf um die Entwicklung einer Infrastruktur entbrannt, die Exabytes an Parametern verarbeiten kann und dabei kosteneffizient und energiesparend bleibt. Durch die Nutzung von Ethernet, einem etablierten und offenen Standard, und die Optimierung seiner Leistungsfähigkeit möchte Broadcom Rechenzentrumsbetreibern einen einfacheren Weg zur Erweiterung ihrer KI-Systeme bieten, ohne sie an das Ökosystem eines einzelnen Anbieters zu binden.

Nachdem Tomahawk Ultra nun bei den Kunden verfügbar ist, tritt der Wettbewerb um die weltweit führenden Anbieter von KI-Engines in eine neue, intensivere Phase ein. Offenheit und Skalierbarkeit könnten hier ebenso entscheidend sein wie die reine Rechenleistung der Chips. Damit ist Broadcom auf dem besten Weg, sich zu einem ernstzunehmenden Akteur in der KI-Branche zu entwickeln.

das Unternehmen als potenzieller Kandidat gehandelt, der zu den wichtigsten Firmen gehören würde, die Anteile an Intels Fabriken erwerben und diese gemeinsam mit TSMC, Nvidia und AMD betreiben würden – ein Deal, der angeblich von TSMC vorgeschlagen wurde.