Amazon startet KI-Chip, um Nvidia-Google-Dominanz herauszufordern

Amazon hat diesen Woche seinen neuesten KI-Trainingschip, Trainium3, ausgerollt, während er direkt auf die Hardware-Monopolstellung von Nvidia und Google zusteuert.

Der Beschleuniger läuft bereits in einer kleinen Gruppe von AWS-Rechenzentren und wird am Dienstag für Kunden geöffnet, according to an interview with Dave Brown, vice president at Amazon Web Services. Dave sagte, das Unternehmen gehe nicht behutsam voran.

„Wenn wir ins frühe nächste Jahr kommen, werden wir sehr, sehr schnell skalieren“, sagte er. Das Ziel ist einfach. Verkaufen Sie mehr Compute direkt von Amazon-Racks, anstatt zuzusehen, wie Entwickler diesen Ausgaben woanders hin senden.

AWS führt immer noch den globalen Cloud-Markt bei gemietetem Compute und Speicher an. Dieser Vorsprung hat sich nicht sauber in großflächiges KI-Training übertragen. Einige Entwickler verlassen sich auf Microsoft wegen seiner Verbindung zu OpenAI.

Andere gehen zu Google und seinen hauseigenen Chips. Amazon nutzt jetzt Trainium3, um preissensitive Teams zurück unter seine Fittiche zu holen. Das grundlegende Angebot ist niedrigere Kosten pro Arbeitseinheit bei gleichzeitiger Beibehaltung alles innerhalb von AWS.

Amazon schiebt Trainium3 im Cloud-Maßstab voran

Trainium3 landet etwa ein Jahr nach dem Einsatz der letzten Version von Amazon. Dieses Tempo liegt am schnellen Ende der Chip-Standards. Als der Chip im August zum ersten Mal eingeschaltet wurde, scherzte ein AWS-Ingenieur: „Das Haupt Ding, worauf wir hier hoffen, ist einfach, dass wir keine Art von Rauch oder Feuer sehen.“ Der schnelle Upgrade-Rhythmus spiegelt auch Nvidias öffentlichen Plan wider, jedes Jahr einen neuen Chip auszuliefern.

Amazon sagt, Trainium-Chips führen das schwere Compute hinter KI-Modellen zu niedrigeren Kosten und besserer Stromnutzung aus als Nvidias Top-GPUs. Dave sagte: „Wir sind sehr zufrieden mit unserer Fähigkeit, die richtige Preis-Leistung mit Trainium zu erzielen.“ Das Unternehmen setzt stark auf diesen Preisvorteil, da Modellgrößen steigen und Trainingskosten weiter steigen.

Es gibt immer noch eine Grenze. Nvidias Chips tragen nicht die tiefen Software-Bibliotheken, die Teams ermöglichen, schnell auf Nvidia-Hardware zu arbeiten. Bedrock Robotics, das KI nutzt, um Baumaschinen ohne menschliche Kontrolle zu steuern, betreibt seine Hauptsysteme auf AWS-Servern. Wenn es Modelle trainiert, um einen Bagger zu führen, nutzt es immer noch Nvidia-Chips. Kevin Peterson, Chief Technology Officer bei Bedrock Robotics, sagte: „Wir brauchen es, um leistungsstark und einfach zu bedienen zu sein. Das ist Nvidia.“

Die meiste Trainium-Kapazität fließt derzeit an Anthropic. Die Chips laufen in Rechenzentren in Indiana, Mississippi und Pennsylvania. Anfang dieses Jahres sagte AWS, es habe mehr als 500.000 Trainium-Chips vernetzt, um Anthropics neueste Modelle zu trainieren. Amazon plant, diese Zahl bis Ende des Jahres auf 1 Million Chips zu erhöhen.

Amazon koppelt die Zukunft von Trainium an das Wachstum von Anthropic und an die eigenen KI-Dienste. Außerhalb von Anthropic hat das Unternehmen bisher nur wenige große Kunden benannt. Das lässt Analysten mit begrenzten Daten zurück, um zu beurteilen, wie gut Trainium im breiteren Einsatz performt.

Anthropic streut auch sein eigenes Rechenrisiko. Es nutzt weiterhin die Tensor Processing Units von Google und hat in diesem Jahr einen Vertrag mit Google unterzeichnet, der Zugang zu Rechenleistung im Wert von mehreren zehn Milliarden Dollar gewährt.

Amazon offenbarte Trainium3 während re: Invent, seiner jährlichen Benutzerkonferenz. Die Veranstaltung hat sich in eine ununterbrochene Anzeige von KI-Tools und Infrastruktur verwandelt, die auf Entwickler abzielt, die neue Modelle bauen, und Unternehmen, die bereit sind, im großen Maßstab für Zugang zu zahlen.

Amazon rollt Nova-Updates aus und eröffnet Nova Forge

Am Dienstag aktualisierte Amazon auch seine Haupt-KI-Modellfamilie, bekannt als Nova. Die neue Nova-2-Linie umfasst eine Version namens Omni.

Omni akzeptiert Text, Bilder, Sprache oder Video als Eingabe. Es kann sowohl mit Text als auch mit Bildern antworten. Amazon verkauft eine Mischung aus Eingabetypen und Modellkosten als Paket, das für den täglichen Einsatz im großen Maßstab konzipiert ist.

Amazon preist seine Modelle weiterhin in etwa nach der Leistung pro Dollar. Vergangene Nova-Modelle landeten in Standard-Testbewertungen, die Antworten auf festgelegte Fragen bewerten, nicht in der Nähe der Spitze. Das Unternehmen setzt stattdessen auf Live-Einsatz statt auf Testcharts.

Rohit Prasad, der einen Großteil von Amazon’s Modellarbeit und sein Team für Allgemeine Künstliche Intelligenz (AGI) leitet, sagte: „Der echte Benchmark ist die reale Welt“, und fügte hinzu, dass er erwartet, dass die neuen Modelle in Live-Szenarien konkurrieren werden.

Amazon öffnet auch fortgeschrittenen Nutzern über ein neues Produkt namens Nova Forge tieferen Modellkontrollzugang. Dies ermöglicht es Teams, Versionen von Nova-Modellen vor Abschluss des Trainings abzurufen und sie mit ihren eigenen Daten anzupassen.

Reddit nutzt bereits Nova Forge, um ein Modell zu erstellen, das prüft, ob ein Beitrag gegen Sicherheitsregeln verstößt. Chris Slowe, Chief Technology Officer bei Reddit, sagte, dass viele KI-Nutzer für jede Aufgabe das größtmögliche Modell heranziehen, anstatt eines mit engem Fokus zu trainieren. „Die Tatsache, dass wir es zu einem Experten in unserem spezifischen Bereich machen können, ist der Wert“, sagte er.

Mit Trainium3, das nun in Rechenzentren aktiv ist, und aktualisierten Nova-Modellen zur gleichen Zeit, pushen Amazon auf zwei Fronten gleichzeitig. Der Hardware-Kampf spielt sich gegen Nvidia ab. Der Modell-Push läuft gegen das von Microsoft unterstützte OpenAI und Google. Die nächste Phase bewegt sich nun in die praktische Kunden-Nutzung im vollen Cloud-Maßstab.