Geätzte Bücher im Wert von 1 Milliarde Dollar – ein Angriff auf Nvidia im Bereich KI-Inferenz

Das vier Jahre alte Chip-Startup Etched gibt an, Hardware-Aufträge im Wert von über einer Milliarde US-Dollar erhalten zu haben. Die Hardware ist speziell für die Ausführung trainierter KI-Modelle konzipiert. Dieser Prozess, die sogenannte Inferenz, zählt zu den kostenintensivsten Aufgaben für Unternehmen, die KI in ihren Geschäftsprozessen einsetzen. Etched ist überzeugt, dass Chiptechnologie diese Aufgabe schneller, kostengünstiger und mit weniger Energieverbrauch als die Allzweck-GPUs von Nvidia bewältigen kann.

Das Unternehmen gab seine Aufträge zusammen mit einer Bewertung von 5 Milliarden US-Dollar bekannt. Laut einem Bericht von TechCrunch. Sollte der Chip wie erwartet funktionieren, würde ein Teil der derzeit an Nvidia fließenden Gelder umgeleitet, was die Wirtschaftlichkeit des Einsatzes fortschrittlicher KI-Modelle verändern würde.

„Wir haben in der Entwicklung der KI einen Punkt erreicht, an dem spezialisierte Chips, die besser funktionieren als Allzweck-GPUs, unvermeidlich sind – und die technischen Entscheidungsträger der Welt wissen das“, sagte Gavin Uberti, Mitbegründer und CEO von Etched, 2024 gegenüber TechCrunch.

Anders als beim Training, wo Modelle anhand riesiger Datensätze lernen, findet die Inferenz immer dann statt, wenn ein Benutzer eine Eingabeaufforderung eingibt. Aktuell benötigen große Sprachmodelle viel Zeit für die Suche nach Gewichten und die Aktualisierung ihres Schlüssel-Wert-Caches (KV-Cache), wodurch die Bedeutung von Speicherkapazität und Bandbreite mit zunehmender Größe der Kontextfenster steigt. Daher besteht Bedarf an Chips, die ausschließlich für die Inferenz ausgelegt sind, im Gegensatz zu GPUs, die höhere Arbeitslasten bewältigen können.

Eine im Juli 2026 veröffentlichte Studie von Michael J. Yuan und Ju Long stellt fest, dass gängige GPUs aufgrund ihrer Kombination aus hoher Rechenleistung und relativ geringem Speicherbedarf als „rechenintensiv und speicherschonend“ charakterisiert werden können. Laut den Autoren bleiben während der Inferenz einige Berechnungen oft ungenutzt, während auf Daten gewartet wird. Dies bietet die Möglichkeit, Hardware einzusetzen, die speziell auf die Optimierung des Speicherverbrauchs anstatt auf arithmetische Effizienz ausgelegt ist.

Was Etched verkauft

Anstatt einen einzelnen Chip zu vermarkten, bietet Etched sogenannte „Frontier Inference Clusters“ an. Diese bestehen aus Systemen, die zusammenarbeiten und aus kundenspezifischen Siliziumchips, Netzwerkkomponenten und Software bestehen. Das Unternehmen gibt an, über 400 Ingenieure zu beschäftigen, die zuvor bei Nvidia, dem Google TPU-Team, Broadcom, SK Hynix und TSMC tätig waren.

Das Unternehmen führt die erwartete Leistungssteigerung auf zwei firmeneigene Technologien zurück. Die erste ist Low Voltage Inference (LVI), eine Technologie, die es Rechenblöcken ermöglicht, mit niedrigeren Spannungen zu arbeiten und so einen kontinuierlichen Betrieb mit geringerer Wärmeentwicklung zu gewährleisten. Die zweite Technologie ist Cluster Scale Memory (CSM), das Chips in einem Speichersystem mit niedriger Latenz freisetzt und dadurch Probleme mit der Inferenz über lange Zeiträume sowie dem Wachstum des KV-Caches beseitigt.

Diese Technologien gelten jedoch weiterhin als Behauptungen des Unternehmens und nicht alsdentbestätigt. Etched hat angekündigt, einige seiner Benchmark-Ergebnisse und technischen Informationen zu veröffentlichen, sobald die Auslieferung der ersten Produktgestelle im Spätsommer beginnt.

Vom Beinahe-Konkurs zu einem überfüllten Kapitalmarkt

Etched hat bisher rund 800 Millionen US-Dollar an Kapital eingesammelt, darunter eine Finanzierungsrunde über 500 Millionen US-Dollar im Dezember, die laut TechCrunch mit einer Unternehmensbewertung von 5 Milliarden US-Dollar nach der Finanzierungsrunde abgeschlossen wurde. Stripes führte die Runde an, beteiligt waren außerdem Jane Street, Hudson River Trading, Two Sigma, Ribbit Capital und VentureTech Alliance.

Zu den Investoren zählen auch namhafte KI-Forscher wie Andrej Karpathy, Geoffrey Hinton, Fei-Fei Li, Arthur Mensch und Scott Wu sowie Stanley Druckenmiller und Peter Thiel.

Diese Finanzierung bedeutet eine grundlegende Kursänderung für das Startup. Etched, 2022 von den Harvard-Abbrechern und Thiel-Stipendiaten Robert Wachen und Gavin Uberti gegründet, hatte fast das gesamte Jahr 2023 über Schwierigkeiten, Investoren zutrac. Die Gründer gaben an, dass fast alle Organisationen, an die sie sich wandten, ihre Anfragen ablehnten, bevor sie 2024 schließlich über 125 Millionen US-Dollar an Finanzierung einwerben konnten.

Ein sich ausweitender Wettbewerb, den die Branche beobachtet

Etched betritt einen bereits gesättigten Markt. Cerebras feierte dieses Jahr einen der aufsehenerregendsten Börsengänge im Bereich KI-Chips, Groq sammelte kürzlich 650 Millionen US-Dollar ein, und Amazon, Google und Microsoft entwickeln eigene KI-Chips für ihre Infrastruktur. Auch OpenAI hat Broadcom mit der Entwicklung eines kundenspezifischen Chips beauftragt, was darauf hindeutet, dass der Markt für Inferenztechnologie ein Niveau erreicht hat, das neben Nvidia auch andere Anbieter trägt.

Die Fertigung bleibt weiterhin eine Herausforderung. Wie Cryptopolitan bereits berichtete, hat sich die fortschrittliche Gehäusetechnologie, insbesondere TSMCs CoWoS -Verfahren zur Verbindung von Prozessoren mit Speichermedien hoher Bandbreite, zu einem der größten Hindernisse für die Branche entwickelt.

Die Nachfrage nach KI-Wafern wird voraussichtlich von 2022 bis 2026 um fast das Elffache steigen. TSMC hält derzeit rund 72 Prozent des Marktes für reine Auftragsfertiger. Da Etched den N4P-Prozess von TSMC nutzt, konkurriert das Unternehmen mit Größen wie Nvidia, AMD und anderen KI-Chipherstellern um dieselben Produktionsressourcen.

Aktuell liegt der Fokus auf der Implementierung. Berichten zufolge hat die Produktion bereits begonnen, und die ersten Inferenz-Racks sollen in den kommenden Monaten ausgeliefert werden, um Aufträge im Wert von rund einer Milliarde US-Dollar zu generieren. Inwieweit die Hardware die vom Unternehmen versprochenen verbesserten Funktionen tatsächlich erfüllt, wird sich erst nach der Auslieferung an die Kunden durchdent Überprüfung zeigen.

Die Angaben des Unternehmens zu LVI und CSM sollten vorerst eher als Versprechen denn als bestätigte Ergebnisse betrachtet werden. Sollten sich die Ergebnisse jedoch bewahrheiten, dürfte das Start-up zu einem der schärfsten Konkurrenten von Nvidia im Bereich der KI-Inferenz werden.