Meta lanza chips de IA internos mientras se acelera la carrera para reducir la dependencia de Nvidia

Meta se está moviendo con más fuerza hacia chips de IA personalizados a medida que la lucha por reducir la dependencia de Nvidia se vuelve más seria en las grandes tecnológicas.

La compañía dijo que comenzó el Meta Training and Inference Accelerator (MTIA) en 2023, y ahora está preparando cuatro nuevas generaciones de chips en los próximos dos años.

Según Meta, estos chips se están construyendo supuestamente para tareas de clasificación, recomendaciones e IA generativa en los productos de Meta.

La compañía también dijo que no está apostando por un solo proveedor o una sola pieza de hardware. Meta planea seguir comprando silicio a varios actores de la industria mientras mantiene MTIA en el centro de su propio plan de infraestructura de IA.

En palabras de la compañía, está adoptando un “enfoque de portafolio” a medida que sus cargas de trabajo de IA crecen y cambian. Esto significa combinar chips externos con silicio interno en lugar de entregar toda la pila tecnológica a un solo proveedor.

Meta despliega cuatro generaciones de chips MTIA en un calendario más rápido

Meta dijo que ya utiliza cientos de miles de chips MTIA para tareas de inferencia vinculadas tanto al contenido orgánico como a los anuncios en sus aplicaciones.

Los chips están diseñados para las tareas propias de la compañía, no para uso general. Esto es importante porque Meta dijo que el hardware es parte de una solución personalizada de pila completa, lo que le proporciona un sistema más ajustado para el trabajo que realiza a diario.

La compañía dijo que esta configuración ofrece una mejor eficiencia de cómputo para sus casos de uso específicos y reduce los costos en comparación con chips de propósito más amplio.

La siguiente fase es un despliegue más amplio. Meta dijo que está desarrollando MTIA 300, 400, 450 y 500, con cada versión aportando mejoras en capacidad de cómputo, ancho de banda de memoria y eficiencia. MTIA 300 ya está en producción y se encargará del entrenamiento de clasificación y recomendaciones.

MTIA 400, 450 y 500 pueden ejecutar todas las cargas de trabajo, pero Meta dijo que esos chips se utilizarán principalmente para la producción de inferencia de IA generativa en el corto plazo y hasta 2027.

La empresa también indicó que el silicio es modular, lo que permite que nuevos chips se integren en la infraestructura existente de los sistemas de rack. Esto reduce el tiempo de espera entre el diseño y el despliegue.

En cuanto a la velocidad de lanzamiento, Meta señaló que la industria suele lanzar un nuevo chip de IA cada uno o dos años, pero ahora tiene la capacidad de lanzar sus propios chips cada seis meses o menos reutilizando diseños modulares.

Meta construye su estrategia de chips de IA en torno a la inferencia y los estándares abiertos

La empresa dijo que su estrategia MTIA se basa en tres partes: iteración rápida, un diseño centrado en la inferencia y una adopción fácil a través de estándares comunes.

En el primer punto, Meta dijo que el ciclo de lanzamiento más corto le ayuda a ajustarse más rápido a medida que cambian las técnicas de IA, incorporar nuevas tecnologías de hardware y reducir el costo de desarrollar e implementar nuevas versiones de chips.

Sobre el segundo punto, Meta trazó una línea entre su plan y el modelo de mercado habitual. La empresa dijo que la mayoría de los chips principales están diseñados primero para trabajos de preentrenamiento de GenAI y luego se utilizan para otras tareas, a menudo con un nivel de costo peor.

Meta dijo que está haciendo lo contrario. MTIA 450 y 500 están siendo ajustados primero para la inferencia de GenAI, y luego se utilizan para clasificación, entrenamiento e inferencia de recomendaciones, y entrenamiento de GenAI cuando sea necesario.

La empresa también dijo que MTIA está construido desde el inicio sobre herramientas y sistemas estándar, incluyendo PyTorch, vLLM, Triton y el Open Compute Project. Sus diseños de sistemas y racks también siguen los estándares OCP para su uso en centros de datos.

Meta añadió que ningún chip individual puede cubrir todas las demandas que tiene, por lo que planea desplegar diferentes chips para diferentes cargas de trabajo mientras avanza hacia lo que llamó "superinteligencia personal para todos".