OpenAIs von Broadcom entwickelter Inferenzchip soll das abdecken, was Nvidia nicht kann

OpenAI wird nun seinen ersten eigens entwickelten KI-Chip „Jalapeño“ von Broadcom einsetzen. Dieser wird für die rechenintensive Ausführung von KI-Modellen für Nutzer von ChatGPT und anderen Apps verwendet.

Das Unternehmen bezeichnete dies als einen wichtigen Schritt in seinem Plan, die gesamte Technologieinfrastruktur hinter seinen Modellen und Produkten aufzubauen.

„Indem wir mehr Komponenten des Technologie-Stacks selbst entwickeln, können wir mehr Intelligenz effizienter bereitstellen und die Entwicklung fortschrittlicher KI für einen breiteren Zugang vorantreiben“, sagte Greg Brockman, Präsident von OpenAIdentin einer Erklärung.

Die Broadcom-Aktie (NASDAQ: AVGO) stieg nach der Bekanntgabe um etwa 2 %. Seit Jahresbeginn hat die Aktie bisher um 10 % zugelegt.

OpenAI trug 2022 maßgeblich zum Boom der generativen KI bei und ist seither einer der größten Abnehmer von Nvidias teuren Grafikprozessoren – der Haupthardware für die Entwicklung von KI-Modellen und die Ausführung komplexer Berechnungen. Aufgrund der hohen Nachfrage nach OpenAI-Produkten benötigt das Unternehmen weitere Lieferanten für leistungsstarke Inferenzchips.

Aus diesem Grund kooperierte OpenAI auch mit Amazon Web Services für seine Trainium-KI-Chips. Wie berichtete, Cryptopolitan.

Nach 18 Monaten Zusammenarbeit führten OpenAI und Broadcom seit Oktober Gespräche über einen kundenspezifischen Chip. Geplant war der Bau und die Auslieferung von Racks mit den von OpenAI entwickelten Chips, mit dem Ziel, genügend Chips für einen Stromverbrauch von 10 Gigawatt herzustellen.

Was der neue Chip leisten kann

Der Broadcom-Chip ist ein ASIC. Branchenexperten zufolge ist dieser Chiptyp weniger flexibel als Nvidias GPU, aber kostengünstiger und eignet sich für bestimmte KI-Anwendungen. OpenAI gab an, den Chip innerhalb von neun Monaten entwickelt und auch große Teile des dazugehörigen Computersystems gebaut zu haben.

Die beiden Unternehmen bezeichnen den Chip als „Intelligenzprozessor“ und beschreiben ihn als erstes Element einer umfassenderen Plattform, die KI schneller und leichter zugänglich machen soll.

Broadcom hat sich in Zeiten des KI-Booms einen guten Ruf erworben, indem es kundenspezifische Chips für große Cloud-Unternehmen und führende Labore entwickelt hat.

Ein physisches Muster des Chips wird OpenAI am Mittwoch erreichen. Die Unternehmen gaben an, dass sie hoffen, die Jalapeño-Chips bis Ende 2026 einsetzen und die Nutzung anschließend ausweiten zu können.

Dieser Schritt erfolgt nach monatelangen Spannungen um Nvidia-Hardware

Acht Quellen berichteten Reuters, dass OpenAI mit einigen der neuesten Chips von Nvidia unzufrieden sei und seit letztem Jahr nach Alternativen suche. Sieben Quellen gaben an, das Unternehmen sei besorgt darüber, wie schnell die Hardware von Nvidia bei bestimmten Aufgaben, wie beispielsweise dem Schreiben von Softwarecode, auf Nutzeranfragen reagiere. Die von OpenAI benötigten Chips würden letztendlich etwa 10 % des Inferenzbedarfs von OpenAI decken.

Altman erklärte jedoch in einem Beitrag auf X: „Wir arbeiten sehr gerne mit NVIDIA zusammen und sie stellen die besten KI-Chips der Welt her. Wir hoffen, noch sehr lange ein riesiger Kunde zu sein.“

Nvidia ist nach wie vor Marktführer bei Chips für das Training großer Modelle, doch die Inferenz hat sich zu einem neuen Schlachtfeld entwickelt. Im September kündigte Nvidia an, bis zu 100 Milliarden US-Dollar in OpenAI zu investieren – ein Deal, der dem Chiphersteller eine Beteiligung an dem Startup sichern würde.

Im Februar wies Nvidia-CEO Jensen Huang Berichte über Spannungen als „Unsinn“ zurück und bekräftigte, dass Nvidia eine große Investition plane. Dennoch wurde der 100-Milliarden-Dollar-Deal verworfen und durch einen deutlich kleineren ersetzt.

Später bestätigte Jensen Huang, dass die vollen 100 Milliarden Dollar „wahrscheinlich nicht realistisch“ seien, und bezeichnete die ursprüngliche Summe später als „niemals eine Zusage“, sondern lediglich als Einladung, bis zu diesem Betrag zu investieren.

Nvidia sicherte sich letztendlich eine Beteiligung von 30 Milliarden US-Dollar an OpenAI, basierend auf einer Unternehmensbewertung von 730 Milliarden US-Dollar vor der Finanzierungsrunde. Laut Huang handelte es sich dabei wahrscheinlich um Nvidias letzte Investition in OpenAI vor dem geplanten Börsengang des Unternehmens.

Das neue Cyber-Modell von OpenAI übertrifft Anthropic

OpenAI war auch an einer anderen Front aktiv. Am 22. Juni veröffentlichte das Unternehmen GPT-5.5-Cyber ​​vollständig im Rahmen seines Cyberabwehrprogramms Daybreak.

Im CyberGym-Test, der an der UC Berkeley unter Verwendung von 1.507 bekannten Softwarefehlern aus 188 Open-Source-Projekten entwickelt wurde, erzielte das Modell 85,6 %. Anthropics Mythos 5 erreichte 83,8 % und Claude Opus 4.7 73,1 %.

Anthropics Mythos 5 und Fable 5 wurden am 12. Juni aufgrund einer von der Trump-Regierung erlassenen Notfallverordnung zur Exportkontrolle aus Gründen der nationalen Sicherheit offline genommen. Stand 23. Juni sind beide Spiele weiterhin nicht verfügbar, ein Termin für die Wiederaufnahme des Betriebs steht noch nicht fest.