OpenAIs Mega-KI-Stadt-Pläne hängen von Durchbrüchen bei benutzerdefinierten Chips ab

OpenAI skizziert, was wie der Bauplan einer maschinengebauten Zivilisation aussieht, angetrieben von seinen eigenen Chips, seiner eigenen Infrastruktur und genug Strom, um zwei New York Cities zu beleuchten.

Die massive KI-Stadt-Vision des Unternehmens basiert auf einer Vision, die fast unmöglich umzusetzen ist: Milliarden von benutzerdefinierten Chips in Partnerschaft mit Broadcom zu entwerfen und zu produzieren, um das zu unterstützen, was CEO Sam Altman das „Computing-Rückgrat“ der Zukunft nennt.

Sam sagte der Wall Street Journal, dass die Lieferung der künstlichen Intelligenz-Dienste, die die Menschen verlangen, mindestens einen KI-spezifischen Chip pro Benutzer erfordern wird, eine unglaubliche Projektion, die in die Milliarden geht.

Ali Farhadi, Leiter des Allen Institute for AI, untermauerte diese Skalierung mit der Aussage, dass „die Welt so viele KI-Chips benötigen wird wie konventionelle, wenn KI die menschliche Arbeit in dem versprochenen Tempo ersetzt.“ Für OpenAI geht es um Kontrolle; über Kosten, über Stromverbrauch und über das langfristige Überleben seiner Modelle, während die Nachfrage explodiert.

OpenAI verknüpft Broadcom, Nvidia und Speicherriesen für Next-Gen-Compute

Nvidia dominiert natürlich immer noch den KI-Trainingsbereich mit einem Marktanteil von etwa 70 %, weshalb OpenAI weiterhin seine GPUs für das Modelltraining verwenden muss.

Aber OpenAI teilt nun die Pipeline: Das Training erfolgt auf Nvidia, die Inferenz (der Prozess der Bereitstellung von Antworten für Benutzer) verlagert sich auf Broadcoms benutzerdefiniertes Silizium. Dieses Zwei-Schienen-Design könnte Ausgaben und Stromverbrauch in einem Maßstab reduzieren, bei dem jeder Prozentpunkt zählt.

Jordan Nanos, ein Halbleiterforscher bei SemiAnalysis, sagte, Broadcom helfe OpenAI, „das typische KI-Chip-Rezept neu zu mischen.“ Diese Chips werden nicht generisch sein. Sie werden speziell für OpenAIs Modelle entwickelt, die auf High-Bandwidth-Speicher basieren, der von Samsung und SK Hynix geliefert wird, zwei Firmen, mit denen das Unternehmen kürzlich Partnerschaften eingegangen ist.

Diese Art von Speicher ermöglicht eine schnellere Datenbewegung zwischen Prozessoren, was für Systeme wie OpenAIs Pulse, einen KI-Agenten, der täglich das Internet durchsucht, um Benutzer zu briefing, kritisch ist. Pulse verbraucht so viel Rechenleistung, dass Sam sagte, es sei auf diejenigen beschränkt, die $200 pro Monat für die Pro-Tier zahlen.

Diese Abhängigkeit von High-Bandwidth-Speicher hängt direkt damit zusammen, wie OpenAIs Modelle funktionieren. Frühe neuronale Netze waren „dicht“ und aktivierten große Teile ihrer Systeme für jede Abfrage. Neuere verwenden „Sparsity“, das nur bestimmte Expertenabschnitte aktiviert.

Anstatt 25 % des Modells zu verwenden, um eine Frage zu beantworten, lösen moderne Systeme einen Bruchteil eines Prozents aus. Dieser Unterschied reduziert den Stromverbrauch drastisch und beschleunigt die Antwortzeiten. Wenn ein Chip um diese spärliche Logik herum gebaut ist, steigt die Effizienz in die Höhe, und Broadcom ist derjenige, der diese Hardware ermöglicht.

OpenAIs KI-Supercomputer im Gigawatt-Maßstab definieren die Infrastruktur neu

Sam hat gesagt, dass der aktuelle Compute-Fußabdruck von OpenAI bei etwa 2 Gigawatt liegt, verteilt auf globale Rechenzentren. Die Partnerschaft mit Broadcom zielt darauf ab, bis 2030 bis zu 10 Gigawatt aufzubauen, die die physische Basis für das bilden, was Insider als KI-Städte bezeichnen: dichte Campus mit Servern, Speicher und benutzerdefinierten Interconnects, die durch Broadcoms Tomahawk Ultra-Netzwerkchips verbunden sind.

Das ist nur ein Teil der Welle. In den letzten drei Wochen hat OpenAI 16 Gigawatt an neuen Kapazitätsverträgen mit AMD und Nvidia hinzugefügt, was die Gesamtzahl auf ein Niveau bringt, das fast 1 Billion US-Dollar an Investitionen erfordern könnte.

xAIs Memphis Colossus erreichte diesen Herbst bereits 1,21 Gigawatt. Meta’s Hyperion-Einrichtung in Louisiana ist für 2,3 Gigawatt genehmigt, wobei Mark Zuckerberg 5 Gigawatt anstrebt. Der KI-Energie-Wettlauf ist offiziell global.

Sam beschrieb diese Transformation als „das größte gemeinsame industrielle Projekt in der Geschichte“ und sagte, dass selbst diese Deals „ein Tropfen auf den heißen Stein im Vergleich zu dem sind, wohin wir müssen.“ Ein Teil seines Ziels ist es, Lieferanten zu diversifizieren.

Der Stargate-Campus in Abilene, Texas, der von Oracle gebaut wird, wird sich auf KI-Training konzentrieren, hauptsächlich auf Nvidia-Chips. AMD-Hardware wird Inferenz-Arbeitslasten abwickeln, während Broadcoms benutzerdefiniertes Silizium die Effizienzlücke schließt.

Wie Nanos es ausdrückte: „OpenAI schaut weit in die Zukunft und versucht sicherzustellen, dass sie Zugang zu genug Chip-Versorgung haben.“