Meta startet interne KI-Chips, während der Wettlauf zur Verringerung der Abhängigkeit von Nvidia beschleunigt

Meta geht aggressiver in die Entwicklung eigener KI-Chips, da der Kampf, die Abhängigkeit von Nvidia zu verringern, in der großen Tech-Branche ernster wird.

Das Unternehmen sagte, es habe den Meta Training and Inference Accelerator (MTIA) im Jahr 2023 gestartet und bereite nun vier neue Chip-Generationen für die nächsten zwei Jahre vor.

Laut Meta werden diese Chips angeblich für Ranking-, Empfehlungsaufgaben und GenAI-Jobs über die Produkte von Meta hinweg gebaut.

Das Unternehmen sagte auch, es wette nicht auf einen einzigen Lieferanten oder ein einzelnes Hardware-Produkt. Meta plant, weiterhin Silizium von mehreren Branchenakteuren zu kaufen, während MTIA im Mittelpunkt seines eigenen KI-Infrastrukturplans bleibt.

In den Worten des Unternehmens verfolgt es einen „Portfolio-Ansatz“, während seine KI-Workloads wachsen und sich ändern. Das bedeutet, dass externe Chips mit hauseigenem Silizium gemischt werden, anstatt den gesamten Stack an einen einzigen Anbieter zu übergeben.

Meta rollt vier MTIA-Chip-Generationen in einem schnelleren Zeitplan aus

Meta sagte, es setze bereits Hunderttausende von MTIA-Chips für Inferenzarbeiten ein, die sowohl mit organischen Inhalten als auch mit Werbung in seinen Apps verbunden sind.

Die Chips sind für die eigenen Aufgaben des Unternehmens gebaut, nicht für den allgemeinen Gebrauch. Das ist wichtig, weil Meta sagte, die Hardware sei Teil einer kundenspezifischen Full-Stack-Lösung, die ihm ein besser abgestimmtes System für die Arbeit bietet, die es täglich ausführt.

Das Unternehmen sagte, diese Einrichtung liefere eine bessere Rechenleistungseffizienz für seine spezifischen Anwendungsfälle und senke die Kosten im Vergleich zu Chips mit breiterer Zweckbestimmung.

Die nächste Phase ist eine größere Ausrollung. Meta sagte, es baue MTIA 300, 400, 450 und 500, wobei jede Version Gewinne bei Rechenleistung, Speicherbandbreite und Effizienz bringt. MTIA 300 ist bereits in der Produktion und wird für das Training von Ranking- und Empfehlungsalgorithmen zuständig sein.

MTIA 400, 450 und 500 können alle Workloads ausführen, aber Meta sagte, diese Chips werden in naher Zukunft und bis 2027 hauptsächlich für die GenAI-Inferenzproduktion verwendet.

Das Unternehmen sagte auch, das Silizium sei modular, was es ermöglicht, neue Chips in bestehende Rack-System-Infrastrukturen einzuschieben. Das verkürzt die Wartezeit zwischen Design und Bereitstellung.

Bezüglich der Release-Geschwindigkeit sagte Meta, die Branche starte normalerweise alle ein bis zwei Jahre einen neuen KI-Chip, aber es habe nun die Kapazität, eigene Chips alle sechs Monate oder weniger freizugeben, indem modulare Designs wiederverwendet werden.

Meta baut seine KI-Chip-Strategie auf Inferenz und offene Standards auf

Das Unternehmen sagte, seine MTIA-Strategie beruhe auf drei Teilen: schnelle Iteration, ein inference-first-Design und einfache Adoption durch gemeinsame Standards.

Zum ersten Punkt sagte Meta , dass der kürzere Release-Zyklus ihm hilft, sich schneller anzupassen, wenn sich KI-Techniken ändern, neuere Hardware-Technologien einzubringen und die Kosten für die Entwicklung und Bereitstellung neuer Chip-Versionen zu senken.

Zum zweiten Punkt zog Meta eine Linie zwischen seinem Plan und dem üblichen Marktmodell. Das Unternehmen sagte, die meisten Mainstream-Chips seien zuerst für große GenAI-Pre-Training-Aufgaben gebaut und dann für andere Arbeiten verwendet, oft zu einem schlechteren Kostenlevel.

Meta sagte, es mache das Gegenteil. MTIA 450 und 500 werden zuerst für GenAI-Inferenz abgestimmt und dann für Ranking, Empfehlungstraining und -inferenz sowie für GenAI-Training verwendet, wenn nötig.

Das Unternehmen sagte auch, MTIA sei von Anfang an auf Standard-Tools und -Systemen aufgebaut, einschließlich PyTorch, vLLM, Triton und dem Open Compute Project. Seine System- und Rack-Designs folgen auch OCP-Standards für den Einsatz in Rechenzentren.

Meta fügte hinzu, dass kein einzelner Chip jede Nachfrage abdecken kann, weshalb es plant, verschiedene Chips für verschiedene Workloads einzusetzen, während es auf das vorangetrieben wird, was es „personalisierte Superintelligenz für alle“ nannte.