Amazon está fabricando sus propios chips de IA para rivalizar con Nvidia

Se informa que Amazon está trabajando en su propio procesador de IA para reducir su dependencia de NVIDIA para chips de IA. La iniciativa también añadirá presión a Nvidia, que domina el negocio de chips de IA.

El gigante del comercio electrónico se está preparando para debutar con sus chips de IA, y esto ocurre mientras Amazon intenta reclamar una parte justa en la industria de la IA y consolidar su posición en la carrera de la IA.

Amazon ya ha desarrollado algunos procesadores internos

Según el Financial Times, Amazon ya ha trabajado en varios procesadores internos personalizados para sus cargas de trabajo de centros de datos.

Se espera que la mayor parte de la información que cubre este desarrollo de procesadores de IA sea lanzada por la firma en su línea de chips Trainium el próximo mes.

Se informa que OpenAI, respaldada por Microsoft, ya está utilizando los chips desarrollados por Annapurna Labs-. Annapurna Labs es el socio principal de Amazon que produce los chips de procesadores de IA, así como proporciona al gigante del comercio electrónico y la computación en la nube acceso al modelo de IA fundamental Claude de Anthropic.

La gran tecnología ha decidido impulsar una menor dependencia de NVIDIA, ya que es la única firma que produce los procesadores de IA más potentes y de los que más se depende. A pesar de que las GPUs de NVIDIA son las mejores del mercado, están en alta demanda y escasez, lo que las hace caras y un empuje de costos para el desarrollo de IA.

La escasez de los procesadores de IA de mejor rendimiento los ha dejado como uno de los productos más buscados y caros del mundo.

El Financial Times informó que para Amazon, el desarrollo interno de chips de IA es una estrategia para reducir su dependencia de NVIDIA para el producto.

Amazon quiere reducir el costo de los productos de IA de otras empresas

Sin embargo, Amazon no es nueva en la producción de chips personalizados. La adquisición de Annapurna ha permitido a la empresa ofrecer opciones alternativas de manera constante para reducir el costo de uso de los productos de AMD e Intel para cargas de trabajo tradicionales de centros de datos.

Los procesadores Graviton, los hechos por Annapurna, trabajan mano a mano con los procesadores de IA personalizados llamados Trainium hechos por Amazon. Amazon presentó Trainium 2 en noviembre de 2023, y está diseñado para trabajar con modelos de lenguaje grande.

Al igual que con los procesadores alternativos para centros de datos, Annapurna también está a la vanguardia para reducir la dependencia de Amazon de las GPU de NVIDIA, ya que es la desarrolladora de elección.

Aunque el informe del Financial Times no reveló muchos detalles sobre las características de los chips, sí indicó que la empresa utilizará el evento que cubrirá los chips Trainium2. Anthropic está utilizando Trainium 2, pero el chip ha estado en escasez a pesar de haberse lanzado en 2023.

$AMZN INTENSIFICA LA OFENSIVA DE CHIPS DE IA PARA RIVALIZAR CON $NVDA – FT

Annapurna Labs de Amazon está intensificando su línea de chips de IA personalizados para reducir la dependencia de Nvidia. Con el próximo lanzamiento de Trainium 2, ya probado por empresas como Anthropic y Databricks, Amazon tiene como objetivo reducir los costos para su nube… pic.twitter.com/1QIKInsy2V

— Wall St Engine (@wallstengine) noviembre 12, 2024

Según Amazon, más de 500.000 clientes de AWS estaban utilizando sus chips Graviton en 2023.

Otras gigantes tecnológicas como el padre de Google, Alphabet, y el dueño de Facebook, Meta, también han entrado en el desarrollo de chips de IA. Sin embargo, algunas grandes tecnológicas como Apple aún externalizan a sus rivales. Meta lanzó a principios de este año su segunda generación de Meta Training and Inference Accelerator (MTIA) y ambos reducen la dependencia de las GPUs de NVIDIA.

También se informa que OpenAI, respaldado por Microsoft, está considerando la posibilidad de desarrollar sus propios chips. En la misma línea, Google lanzó a principios de noviembre una unidad de procesamiento tensorial (TPU) para IA, Trillium, su última oferta.

Se dice que los chips de IA TPU de Google son cuatro veces más rápidos en el rendimiento de entrenamiento de IA y tres veces más rápidos en la inferencia que sus predecesores.

Amazon, mientras tanto, ha extendido sus esfuerzos más allá del desarrollo de hardware. En julio, la firma tecnológica anunció que está trabajando en un chatbot de IA llamado Metis. Se proyecta que el chatbot operará con el doble de parámetros de datos que el GPT-4 de OpenAI.