Von Broadcom entwickelter Inference-Chip von OpenAI soll Lücken schließen, die Nvidia nicht abdeckt

OpenAI wird nun seinen ersten eigenen KI-Chip „Jalapeño“ von Broadcom verwenden. Er wird für die rechenintensiven Aufgaben beim Ausführen von KI-Modellen für Menschen verwendet, die ChatGPT und andere Apps nutzen.

Das Unternehmen nannte dies einen großen Schritt in seinem Plan, den gesamten Stack hinter seinen Modellen und Produkten aufzubauen.

„Indem wir mehr des Stacks selbst entwickeln, können wir mehr Intelligenz mit größerer Effizienz bereitstellen und fortschrittliche KI weiter für breiteren Zugang vorantreiben“, sagte Greg Brockman, Präsident von OpenAI, in einer Erklärung.

Broadcoms Aktie (NASDAQ: AVGO) stieg nach den Nachrichten um etwa 2 %. Die Aktie ist in diesem Jahr bereits um 10 % gewachsen.

OpenAI hat 2022 den Ansturm auf generative KI angeheizt und war seitdem einer der größten Käufer von Nvidias teuren Grafikverarbeitungseinheiten (GPUs), der Haupthardware, die zum Bauen von KI-Modellen und Ausführen großer Aufgaben verwendet wird. Da die Nachfrage nach OpenAIs Produkten zu hoch ist, benötigt das Unternehmen mehr Quellen für fortschrittliche Inferenz-Chips.

Aus diesem Grund hatte sich OpenAI auch mit Amazon Web Services für seine Trainium-KI-Chips zusammengeschlossen. Es hat auch nach Alternativen mit Nvidias Konkurrent AMD und Cerebras gesucht, die kürzlich an die Börse gingen, wie von Cryptopolitan berichtet.

Nach 18-monatiger Zusammenarbeit hatten OpenAI und Broadcom seit Oktober Gespräche über einen eigenen Chip geführt. Sie planten, Racks von OpenAI-entworfenen Chips aufzubauen und auszurollen, beginnend mit dem Ziel, genug zu produzieren, um 10 Gigawatt Leistung zu nutzen.

Was der neue Chip leisten kann

Der Broadcom-Chip ist ein ASIC. Branchenexperten sagen, dass diese Art weniger flexibel ist als Nvidias GPU, aber weniger kostet und für bestimmte KI-Aufgaben gebaut werden kann. OpenAI sagte, es habe den Chip in neun Monaten entworfen und auch große Teile des Computersystems gebaut, das ihn ausführen wird.

Die beiden Unternehmen nennen den Chip einen „Intelligence Processor“ und beschreiben ihn als das erste Stück einer breiteren Plattform, die KI schneller und zugänglicher machen soll.

Broadcom hat in Zeiten des KI-Booms einen guten Ruf aufgebaut, mit seiner Unterstützung von Custom-Chips für große Cloud-Unternehmen und führende Labore.

Ein physisches Muster des Chips wird OpenAI am Mittwoch erreichen. Die Unternehmen hoffen, Jalapeño-Chips bis Ende 2026 zu nutzen und von dort aus zu expandieren.

Der Schritt kommt nach monatelangen Spannungen über Nvidia-Hardware

Acht Quellen sagten Reuters, dass OpenAI mit einigen von Nvidias neuesten Chips unzufrieden war und seit letztem Jahr nach anderen Optionen gesucht hat. Sieben Quellen sagten, das Unternehmen sei besorgt darüber, wie schnell Nvidias Hardware auf bestimmte Aufgaben, wie das Schreiben von Softwarecode, antwortet. OpenAI benötigte Chips, die schließlich etwa 10 % der Inferenzbedürfnisse von OpenAI abdecken würden.

Altman sagte jedoch in einem X-Beitrag: „Wir arbeiten gerne mit NVIDIA zusammen, und sie stellen die besten KI-Chips der Welt her. Wir hoffen, für sehr lange Zeit ein riesiger Kunde zu sein.“

Nvidia führt immer noch bei Chips für das Training großer Modelle, aber Inferenz ist zu einem neuen Schlachtfeld geworden. Im September sagte Nvidia, es plane, bis zu 100 Milliarden Dollar in OpenAI zu investieren, ein Deal, der dem Chip-Hersteller einen Anteil am Startup geben würde.

Im Februar wies Nvidias CEO Jensen Huang Berichte über Reibereien auch als „Unsinn“ ab und wiederholte, dass Nvidia eine große Investition plane. Dennoch wurde der 100-Milliarden-Dollar-Deal gestrichen und durch einen viel kleineren ersetzt.

Später bestätigte Jensen Huang, dass die vollen 100 Milliarden Dollar „wahrscheinlich nicht in den Karten lagen“, und er beschrieb die ursprüngliche Zahl später als „nie eine Verpflichtung“, sondern nur eine Einladung, bis zu diesem Betrag zu investieren.

Was Nvidia tatsächlich abschloss, war ein 30-Milliarden-Dollar-Anteil an OpenAI, festgelegt bei einer Bewertung vor der Emission von 730 Milliarden Dollar. Huang sagte, es sei wahrscheinlich Nvidias letzte Investition in OpenAI vor dem geplanten IPO des Unternehmens.

OpenAIs neues Cyber-Modell schlägt Anthropic

OpenAI war auch an einer anderen Front beschäftigt. Am 22. Juni startete es GPT-5.5-Cyber vollständig als Teil seines Cyber-Verteidigungsprogramms Daybreak.

Auf CyberGym, einem Test, der an der UC Berkeley mit 1.507 bekannten Softwarefehlern aus 188 Open-Source-Projekten erstellt wurde, erzielte das Modell 85,6 %. Anthropics Mythos 5 erzielte 83,8 % und Claude Opus 4.7 erzielte 73,1 %.

Anthropics Mythos 5 und Fable 5 wurden am 12. Juni offline genommen, nachdem die Trump-Regierung eine Notverfügung zur Exportkontrolle herausgegeben hatte, die die nationale Sicherheit zitierte. Stand 23. Juni sind beide immer noch offline, ohne ein festes Rückkehrdatum.