Meta lance des puces IA internes alors que la course pour réduire la dépendance à Nvidia s'accélère

Meta s'engage davantage dans les puces IA personnalisées alors que la lutte pour réduire la dépendance à Nvidia devient plus sérieuse dans les grandes entreprises technologiques.

L'entreprise a déclaré qu'elle a commencé le Meta Training and Inference Accelerator, ou MTIA, en 2023, et qu'elle prépare désormais quatre nouvelles générations de puces au cours des deux prochaines années.

Selon Meta, ces puces sont supposément construites pour le classement, les recommandations et les tâches GenAI à travers les produits de Meta.

L'entreprise a également déclaré qu'elle ne mise pas sur un seul fournisseur ou un seul matériel. Meta prévoit de continuer à acheter des semi-conducteurs auprès de plusieurs acteurs de l'industrie tout en maintenant MTIA au centre de son propre plan d'infrastructure IA.

Selon l'entreprise, elle adopte une « approche de portefeuille » à mesure que ses charges de travail IA augmentent et changent. Cela signifie mélanger des puces externes avec des semi-conducteurs internes au lieu de confier toute la pile à un seul fournisseur.

Meta déploie quatre générations de puces MTIA sur un calendrier plus rapide

Meta a déclaré qu'elle utilise déjà des centaines de milliers de puces MTIA pour les tâches d'inférence liées au contenu organique et aux publicités à travers ses applications.

Les puces sont construites pour les tâches propres à l'entreprise, pas pour une utilisation générale. Cela est important car Meta a déclaré que le matériel fait partie d'une solution complète personnalisée, ce qui lui donne un système plus ajusté pour le travail qu'elle effectue quotidiennement.

L'entreprise a déclaré que cette configuration offre une meilleure efficacité de calcul pour ses cas d'utilisation spécifiques et réduit les coûts par rapport aux puces à usage plus large.

La prochaine phase est un déploiement plus large. Meta a déclaré qu'elle développe MTIA 300, 400, 450 et 500, chaque version apportant des gains en calcul, bande passante mémoire et efficacité. MTIA 300 est déjà en production et gérera l'entraînement au classement et aux recommandations.

MTIA 400, 450 et 500 peuvent exécuter toutes les charges de travail, mais Meta a déclaré que ces puces seront principalement utilisées pour la production d'inférence GenAI à court terme et jusqu'en 2027.

L'entreprise a également déclaré que le semi-conducteur est modulaire, ce qui permet aux nouvelles puces de s'insérer dans l'infrastructure des systèmes de racks existants. Cela réduit le temps d'attente entre la conception et le déploiement.

En ce qui concerne la vitesse de publication, Meta a déclaré que l'industrie lance généralement une nouvelle puce IA tous les un à deux ans, mais qu'elle a maintenant la capacité de publier ses propres puces tous les six mois ou moins en réutilisant des conceptions modulaires.

Meta construit sa stratégie de puce IA autour de l'inférence et des normes ouvertes

L'entreprise a déclaré que sa stratégie MTIA repose sur trois parties : itération rapide, une conception axée sur l'inférence et une adoption facile grâce à des normes communes.

Sur le premier point, Meta a déclaré que le cycle de publication plus court l'aide à s'ajuster plus rapidement à mesure que les techniques d'IA changent, à intégrer de nouvelles technologies matérielles et à réduire le coût de développement et de déploiement de nouvelles versions de puces.

Sur le deuxième point, Meta a tracé une ligne entre son plan et le modèle de marché habituel. L'entreprise a déclaré que la plupart des puces grand public sont d'abord construites pour de grandes tâches de pré-entraînement GenAI, puis utilisées pour d'autres travaux, souvent à un niveau de coût pire.

Meta a déclaré qu'elle fait le contraire. MTIA 450 et 500 sont ajustés d'abord pour l'inférence GenAI, puis utilisés pour le classement, l'entraînement et l'inférence des recommandations, et l'entraînement GenAI lorsque cela est nécessaire.

L'entreprise a également déclaré que MTIA est construit dès le départ sur des outils et systèmes standard, y compris PyTorch, vLLM, Triton et le Open Compute Project. Ses conceptions de système et de rack suivent également les normes OCP pour une utilisation dans les centres de données.

Meta a ajouté qu'aucune puce unique ne peut couvrir toutes les demandes qu'elle a, c'est pourquoi elle prévoit de déployer différentes puces pour différentes charges de travail tout en poussant vers ce qu'elle a appelé « la superintelligence personnelle pour tous ».