AWS défie la domination d'Nvidia dans l'IA avec sa puce personnalisée

Amazon Web Services (AWS) est prêt à défier la domination du marché d'Nvidia dans le secteur des puces IA en poussant sa stratégie de puces personnalisées à travers les processeurs Graviton4 et les accélérateurs de la série Trainium. Les puces personnalisées sont conçues pour maximiser les marges bénéficiaires dans les charges de travail IA en réduisant les coûts de transfert de données dans les environnements cloud.

AWS a annoncé une mise à jour de sa puce Graviton4 qui inclut 600 gigabits par seconde de bande passante réseau, que l'entreprise qualifie de plus élevée offerte dans le cloud public. Ali Saidi, ingénieur chez AWS, a comparé la vitesse à une machine lisant 100 CDs de musique par seconde. Le processeur Graviton4 est l'un des nombreux produits de puces d'Annapurna Labs d'Amazon à Austin, au Texas, et constitue une victoire pour la stratégie personnalisée de l'entreprise, la plaçant en concurrence avec des acteurs traditionnels comme Intel et AMD.

Avec la mise à niveau de Graviton4 à venir et les puces Trainium de Project Rainier, Amazon a démontré son ambition de contrôler l'ensemble de la pile d'infrastructure IA, du réseau à l'entraînement jusqu'à l'inférence. À mesure que de grands modèles IA comme Claude 4 ont prouvé qu'ils pouvaient s'entraîner avec succès sur du matériel non-NVIDIA, la question n'était plus de savoir si AWS pouvait concurrencer le géant des puces, mais quelle part de marché il pourrait prendre.

Hutt affirme qu'Amazon proposera des alternatives moins chères aux GPU d'Nvidia

Gadi Hutt, directeur senior chez AWS pour l'ingénierie client et produit, a déclaré qu'Amazon souhaitait réduire les coûts d'entraînement de l'IA et fournir des alternatives aux à la chaîne d'approvisionnement de unités de traitement graphique (GPU) coûteuses. Selon AWS, le modèle IA Claude Opus 4 d'Anthropic a été lancé sur des GPU Trainium2, et Project Rainier est alimenté par plus de 500 000 puces – une commande qui serait généralement allée à Nvidia. 

Hutt a déclaré que bien que le Blackwell d'Nvidia soit une puce aux performances supérieures à celle du Trainium2, la puce AWS offrait un meilleur rapport coût-performance. Il a également souligné que le Trainium3 arrivait cette année, doublant les performances du Trainium2, et qu'il permettrait d'économiser 50 % d'énergie supplémentaires. Rami Sinno, directeur de l'ingénierie chez Annapurna Labs d'AWS, a déclaré que la demande pour ces puces dépassait déjà l'offre.

« Notre offre est très, très importante, mais chaque service que nous construisons a un client attaché. »

–Rami Sinno, directeur de l'ingénierie chez Annapurna Labs d'AWS

L'équipe AWS a souligné que, bien que l'entreprise ait reconnu des lacunes spécifiques, elle préférait travailler avec des startups innovantes et plus petites telles qu'Anthropic, Scale AI et Fiddler plutôt que de compter sur de grands fournisseurs. Amazon soutient souvent ces entreprises par des investissements stratégiques, formant des relations mutuellement bénéfiques en échange de la fourniture de capitaux ou d'infrastructures, comme c'est le cas pour Anthropic. AWS a annoncé Project Rainier – un supercalculateur IA construit pour la startup Anthropic – lors de la conférence Invent 2024 en décembre dernier et aurait investi 8 milliards de dollars pour soutenir Anthropic.

Les puces Graviton4 et Trainium3 d'AWS promettent des performances et une efficacité améliorées 

L'équipe Amazon a révélé a indiqué que les puces Graviton4 et Trainium3 mises à jour, prévues pour la fin 2025, promettaient un bond de performance de 4x et une efficacité énergétique améliorée de 40 %, compressant davantage les marges d'Nvidia. Elle a ajouté qu'il ne s'agissait pas seulement d'une victoire pour la croissance du chiffre d'affaires d'AWS, mais d'une attaque directe sur la prime des GPU d'Nvidia.

Rahul Kulkarni, directeur de la gestion de produit pour le calcul et l'IA chez Amazon, a déclaré que le Graviton4 mis à jour promettait de fournir trois fois la puissance de calcul et la mémoire de son prédécesseur, 75 % de bande passante mémoire en plus et 30 % de performances meilleures. Il a ajouté que collectivement, il était attendu qu'il offre plus de performance par prix, signifiant que les utilisateurs obtiennent beaucoup plus de performances pour chaque dollar dépensé.

Patrick Moorhead, PDG et analyste principal chez Moor Insights & Strategy, a déclaré que toutes les entreprises d'IA dépensaient beaucoup d'argent pour développer des puces, ajoutant qu'elles disposaient de budgets de R&D gigantesques malgré le fait de ne pas divulguer les montants exacts investis. Moorhead, qui a passé plus d'une décennie en tant que vice-président chez AMD, a ajouté qu'Nvidia reste toujours un acteur dominant sur le marché des puces IA. Cependant, il y a suffisamment de demande pour soutenir plusieurs concurrents, y compris AWS.