Amazon hat diese Woche seinen neuesten KI-Trainingschip Trainium3 vorgestellt und greift damit direkt die Hardware-Dominanz von Nvidia und Google an.
Der Accelerator läuft bereits in einer kleinen Gruppe von AWS-Rechenzentren und wird laut einem Interview mit Dave Brown,dent von Amazon Web Services, am Dienstag für Kunden freigegeben. Brown betonte, dass das Unternehmen bei diesem Projekt nicht zögerlich vorgeht.
„Anfang nächsten Jahres werden wir unsere Kapazitäten sehr, sehr schnell ausbauen“, sagte er. Das Ziel ist einfach: Wir wollen mehr Rechenleistung direkt von Amazon-Servern verkaufen, anstatt zuzusehen, wie Entwickler ihr Geld woanders ausgeben.
AWS ist nach wie vor der globale Marktführer im Bereich gemieteter Cloud-Ressourcen und Speicher. Dieser Vorsprung hat sich jedoch nicht ohne Weiteres auf das Training von KI-Systemen im großen Maßstab übertragen. Einige Entwickler setzen daher aufgrund der Verbindung zu OpenAI auf Microsoft.
Andere wenden sich Google und dessen hauseigenen Chips zu. Amazon nutzt nun Trainium3, um preissensible Teams wieder ins eigene Haus zu holen. Das Kernargument lautet: geringere Kosten pro Arbeitseinheit bei gleichzeitiger vollständiger Auslagerung aller Prozesse innerhalb der AWS-Cloud.
Amazon treibt Trainium3 im Cloud-Maßstab voran
Trainium3 erscheint etwa ein Jahr nach der letzten Version bei Amazon. Dieses Tempo gehört zu den schnellsten der Chip-Branche. Als der Chip im August erstmals in Betrieb genommen wurde, scherzte ein AWS-Ingenieur: „Wir hoffen vor allem, dass es keine Probleme gibt.“ Der hohe Aktualisierungsrhythmus entspricht auch Nvidias öffentlich bekanntem Plan, jedes Jahr einen neuen Chip auf den Markt zu bringen.
Amazon zufolge bewältigen Trainium-Chips die rechenintensiven Aufgaben hinter KI-Modellen kostengünstiger und energieeffizienter als Nvidias leistungsstärkste GPUs. Dave erklärte: „Wir sind sehr zufrieden damit, dass wir mit Trainium ein optimales Preis-Leistungs-Verhältnis erzielen konnten.“ Das Unternehmen legt angesichts steigender Modellgrößen und Trainingskosten großen Wert auf diesen Preisvorteil.
Es gibt jedoch weiterhin eine Grenze. Amazons Chips verfügen nicht über die umfangreichen Softwarebibliotheken, die Teams auf Nvidia-Hardware für schnelles Arbeiten benötigen. Bedrock Robotics, das KI zur Steuerung von Baumaschinen ohne menschliche Kontrolle einsetzt, betreibt seine Hauptsysteme auf AWS-Servern. Beim Training von Modellen zur Steuerung eines Baggers kommen jedoch weiterhin Nvidia-Chips zum Einsatz. Kevin Peterson, CTO von Bedrock Robotics, erklärte: „Wir benötigen leistungsstarke und benutzerfreundliche Systeme. Dafür ist Nvidia die richtige Wahl.“
Derzeit fließt der Großteil der Trainium-Kapazität in die Nutzung von Anthropic. Die Chips laufen in Rechenzentren in Indiana, Mississippi und Pennsylvania. Anfang des Jahres gab AWS bekannt, mehr als 500.000 Trainium-Chips für das Training der neuesten Modelle von Anthropic angebunden zu haben. Amazon plant, diese Zahl bis Ende des Jahres auf 1 Million Chips zu erhöhen.
Amazon verknüpft die Zukunft von Trainium mit dem Wachstum von Anthropic und den eigenen KI-Dienstleistungen. Abgesehen von Anthropic hat das Unternehmen bisher nur wenige Großkunden genannt. Daher stehen Analysten nur begrenzte Daten zur Verfügung, um die Leistungsfähigkeit von Trainium im breiteren Einsatz zu beurteilen.
Anthropic birgt auch ein eigenes Rechenrisiko. Das Unternehmen nutzt weiterhin Googles Tensor Processing Units und hat dieses Jahr einen Vertrag mit Google abgeschlossen, der ihm Zugang zu Rechenleistung im Wert von mehreren zehn Milliarden Dollar verschafft.
Amazon präsentierte Trainium3 auf der re:Invent, seiner jährlichen Anwenderkonferenz. Die Veranstaltung hat sich zu einer permanenten Präsentation von KI-Tools und -Infrastruktur entwickelt, die sich an Entwickler richtet, die neue Modelle erstellen, und an Unternehmen, die bereit sind, für den Zugriff in großem Umfang zu bezahlen.
Amazon veröffentlicht Nova-Updates und öffnet Nova Forge
Am Dienstag aktualisierte Amazon außerdem seine wichtigste KI-Modellfamilie, bekannt als Nova. Die neue Nova-2-Reihe umfasst eine Version namens Omni.
Omni akzeptiert Text, Bilder, Sprache und Video als Eingabe. Es kann sowohl mit Text als auch mit Bildern antworten. Amazon bietet verschiedene Eingabemethoden und unterschiedliche Modellpreise als Paket an, das für den täglichen Einsatz in großem Umfang konzipiert ist.
Amazon orientiert sich bei der Preisgestaltung seiner Modelle weiterhin am Preis-Leistungs-Verhältnis. Frühere Nova-Modelle schnitten in standardisierten Tests, die Antworten auf festgelegte Fragen bewerten, nicht gut ab. Das Unternehmen setzt daher verstärkt auf Praxiserfahrung statt auf Testergebnisse.
Rohit Prasad, der einen Großteil der Modellarbeit bei Amazon und das Team für Künstliche Allgemeine Intelligenz leitet, sagte: „Der wahre Maßstab ist die reale Welt“, und fügte hinzu, dass er erwarte, dass die neuen Modelle in realen Umgebungen konkurrenzfähig sein werden.
Amazon ermöglicht fortgeschrittenen Nutzern zudem eine tiefere Kontrolle über die Modelle durch ein neues Produkt namens Nova Forge, mit dem Teams Versionen von Nova-Modellen vor Abschluss des Trainings abrufen und diese anhand ihrer eigenen Daten anpassen können.
Reddit nutzt bereits Nova Forge, um ein Modell zu erstellen, das prüft, ob ein Beitrag gegen die Sicherheitsrichtlinien verstößt. Chris Slowe, CTO von Reddit, erklärte, viele KI-Nutzer würden für jede Aufgabe das größtmögliche Modell wählen, anstatt ein spezialisiertes Modell zu trainieren. „Der eigentliche Wert liegt darin, dass wir es zu einem Experten für unseren jeweiligen Bereich machen können“, sagte er.
Da Trainium3 nun in Rechenzentren aktiv ist und gleichzeitig die Nova-Modelle aktualisiert wurden, verfolgt Amazon zwei Fronten gleichzeitig. Der Hardware-Wettbewerb findet gegen Nvidia statt. Der Modell-Wettbewerb richtet sich gegen das von Microsoft unterstützte OpenAI und Google. Die nächste Phase ist nun die praktische Anwendung durch Kunden im vollen Cloud-Maßstab.
