Amazon Rattrape Microsoft et Google dans l'IA Générative avec des Puces AWS Personnalisées

Dans un immeuble de bureaux discret niché à Austin, au Texas, une petite équipe d'employés d'Amazon travaille ardemment à la conception de deux microprocesseurs distincts adaptés à l'entraînement et à l'accélération de l'IA générative. Ces puces AWS personnalisées, nommées Inferentia et Trainium, présentent une alternative viable pour les clients AWS cherchant à entraîner leurs modèles de langage massifs sans dépendre de plus en plus des GPU Nvidia, qui deviennent rares et coûteux.

Le PDG d'Amazon Web Services (AWS), Adam Selipsky, a noté lors d'une interview en juin que la demande de puces pour alimenter l'IA générative s'envole à travers le monde. L'approche proactive d'Amazon vise à répondre à cette demande, affirmant que l'entreprise est bien positionnée pour fournir la capacité nécessaire aux exigences collectives de ses clients.

Rattraper son retard dans une industrie en plein essor

Cependant, d'autres acteurs ont pris une longueur d'avance en investissant massivement pour tirer parti de l'essor de l'IA générative. Lorsque OpenAI a présenté son ChatGPT en novembre, Microsoft a attiré une attention considérable en hébergeant ce chatbot viral et en s'engageant à investir environ 13 milliards de dollars dans OpenAI. Microsoft a rapidement intégré des modèles d'IA générative dans ses produits, les incorporant à Bing en février. Le même mois, Google a lancé Bard, son modèle de langage de grande taille, et a investi 300 millions de dollars dans Anthropic, concurrent d'OpenAI.

Amazon a mis un peu plus de temps à entrer en scène. Ce n'est qu'en avril qu'Amazon a dévoilé sa gamme de modèles de langage de grande taille, baptisée Titan, ainsi que le service Bedrock, destiné à aider les développeurs à améliorer leurs logiciels avec des capacités d'IA générative. Cette entrée tardive a conduit certains experts à suggérer qu'Amazon, habituellement connu pour être un pionnier des marchés, se retrouve maintenant à rattraper son retard dans le domaine de l'IA générative.

Différenciation technique grâce à des puces personnalisées

Chirag Dekate, analyste VP chez Gartner, estime que les puces personnalisées d'Amazon pourraient finalement offrir un avantage concurrentiel dans le secteur de l'IA générative. Les capacités techniques distinctes offertes par ces puces personnalisées, Inferentia et Trainium, pourraient distinguer Amazon. Il est à noter que Microsoft ne dispose pas d'équivalents à Trainium et Inferentia.

Amazon a entamé son parcours avec des puces personnalisées en 2013, en commençant par du matériel spécialisé nommé Nitro. Au fil du temps, Nitro est devenu la puce AWS la plus vendue, avec plus de 20 millions d'unités en utilisation, équipant chaque serveur AWS.

En 2015, Amazon a acquis la startup israélienne de puces Annapurna Labs. En 2018, l'entreprise a lancé sa puce de serveur basée sur l'architecture Arm, Graviton, pour rivaliser avec les processeurs x86 dominants des géants de l'industrie comme AMD et Intel. La même année, Amazon s'est aventuré dans les puces axées sur l'IA. Cela faisait quelques années après que Google eut introduit sa première unité de traitement Tensor (TPU). Pendant ce temps, Microsoft est resté discret concernant sa puce AI Athena, développée en collaboration avec AMD.

Puces personnalisées et leurs rôles

Une visite en coulisses du laboratoire de puces d'Amazon à Austin révèle le développement et les tests de Trainium et Inferentia. Matt Wood, VP Produit, explique leurs rôles. L'apprentissage automatique comprend deux étapes : l'entraînement des modèles et l'exécution des inférences sur les modèles entraînés. Trainium, introduit en 2021, offre une amélioration substantielle de 50 % du rapport qualité-prix par rapport aux autres méthodes d'entraînement des modèles d'apprentissage automatique sur AWS. Inferentia, lancé en 2019 et désormais à sa deuxième génération, excelle dans le traitement des inférences d'apprentissage automatique à haut débit et à faible latence.

Malgré les efforts d'Amazon, les GPU de Nvidia dominent actuellement l'entraînement des modèles. En juillet, AWS a introduit du matériel d'accélération IA alimenté par des Nvidia H100, soulignant la position forte de Nvidia dans le paysage de l'IA.

Tirer parti de la domination dans le cloud pour un avantage concurrentiel

La domination d'Amazon dans le domaine du cloud le distingue. Avec une base d'installation cloud massive, la force d'Amazon réside dans la capacité à permettre à ses clients existants de s'étendre vers la création de valeur en utilisant l'IA générative. Des millions de clients AWS, déjà familiers avec la plateforme, pourraient trouver attrayant d'utiliser les services d'Amazon pour les tâches d'IA générative, en s'appuyant sur leurs applications et leur stockage de données existants.

AWS détient la part du lion du marché de l'informatique en nuage, avec 40 % en 2022. Malgré les récentes baisses de son résultat d'exploitation, AWS contribue toujours de manière significative à hauteur de 70 % au bénéfice d'exploitation global d'Amazon. Ses marges d'exploitation larges surpassent celles de Google Cloud.

L'ensemble d'outils d'IA générative en expansion d'AWS

AWS se concentre sur un ensemble d'outils diversifié pour l'IA générative plutôt que de défier directement ChatGPT. AWS HealthScribe, dévoilé en juillet, utilise l'IA générative pour aider les médecins à rédiger des résumés de visites patients. SageMaker, un hub d'apprentissage automatique, offre des algorithmes et des modèles. CodeWhisperer, un compagnon de codage, a augmenté la productivité des développeurs de 57 % en moyenne. L'année dernière, Microsoft a signalé des améliorations de productivité similaires avec GitHub Copilot.

En juin, AWS a annoncé un centre d'innovation en IA générative de 100 millions de dollars. L'entreprise vise à guider les clients dans la compréhension du potentiel de l'IA générative dans leurs contextes commerciaux en offrant une assistance personnalisée d'experts.

Combler les lacunes en matière de sécurité

La prolifération de l'IA soulève également des préoccupations en matière de sécurité, en particulier concernant les informations propriétaires dans les données d'entraînement utilisées pour les modèles de langage publics. AWS répond à ces préoccupations en s'assurant que les modèles d'IA générative accessibles via son service Bedrock fonctionnent dans des environnements de cloud privé virtuel isolés. Cette configuration garantit le chiffrement et des contrôles d'accès AWS cohérents, apaisant les inquiétudes concernant les fuites de données.

L'impulsion continue d'Amazon dans l'IA générative

Amazon continue de progresser dans le domaine de l'IA générative. Bien que plus de 100 000 clients utilisent actuellement l'apprentissage automatique sur AWS, cela ne constitue qu'une fraction de la vaste base de clients d'AWS. Néanmoins, les analystes estiment que le prestige et la réputation d'Amazon en tant que fournisseur fiable pourraient inciter les entreprises à explorer plus largement l'écosystème d'IA générative d'Amazon.

Chirag Dekate souligne qu'il est peu probable que les entreprises changent leurs stratégies d'infrastructure uniquement en raison des avancées d'un concurrent dans l'IA générative. Pour les clients existants d'Amazon, l'attrait de l'écosystème étendu d'Amazon pourrait jouer un rôle pivot dans leurs décisions.