Amazon lucha por desafiar la supremacía de Nvidia en los chips de IA

Amazon ha estado desarrollando sus propios chips de IA para reducir costos, lo que también ha ayudado a aumentar la rentabilidad de Amazon Web Services (AWS). Sin embargo, el gigante del comercio electrónico está luchando por desarrollar chips de IA que puedan rivalizar con los chips estándar de Nvidia.

Los problemas de migración de proyectos, las brechas de compatibilidad y el bajo uso son algunas de las preocupaciones que ralentizan la adopción de los chips de IA de Amazon. La situación también ha puesto en riesgo importantes ingresos que Amazon genera de su negocio en la nube. Los desafíos que enfrenta Amazon fueron identificados a través de documentos confidenciales y fuentes familiarizadas con el asunto, como informó Business Insider.

Los Chips de IA Internos de Amazon Encuentran una Adopción Restringida

Trainium e Inferentia son los chips de última generación diseñados por Amazon que debutaron cerca del final del año pasado. La publicación informó que el año pasado, la tasa de adopción de Trainium entre los clientes de AWS fue de solo el 0,5% en comparación con la de las unidades de procesamiento gráfico (GPU) de Nvidia.

También lea: El Beneficio de Amazon Supera las Expectativas de Wall Street mientras la IA Generativa de AWS Hace Maravillas

Amazon hizo la evaluación para medir el porcentaje de uso de diferentes chips de IA a través de sus servicios de AWS en abril de 2024, según el informe. Al mismo tiempo, la tasa de adopción para Inferentia fue ligeramente mayor, con un 2,7%. Inferentia es un chip especial diseñado para la inferencia, una tarea de IA que generalmente se refiere al proceso de computación para el uso de modelos de IA por parte de los consumidores finales. El informe mencionó un documento interno que decía que:

“Los primeros intentos de los clientes han expuesto puntos de fricción y han frenado la adopción.”

La declaración anterior se refiere a los desafíos que los grandes clientes de la nube han enfrentado al transicionar a los chips personalizados de Amazon. La plataforma CUDA de Nvidia se considera más atractiva para los clientes, y el informe la identifica como una razón clave.

El Desarrollo de Chips de IA Personalizados de Amazon Bajo Revisión Interna

AWS, el proveedor de servicios en la nube más grande del mundo, está ahora desarrollando sus propios chips de computadora para facilitar las operaciones. Amazon, a veces, presume de sus esfuerzos en chips de IA. Sin embargo, la imagen mostrada en los documentos es diferente a lo que la compañía proyecta.

Los documentos internos indican que la compañía está luchando con una tasa de adopción lenta, pero el CEO de Amazon tiene opiniones diferentes. En su llamada de ganancias del primer trimestre, el CEO de Amazon, Andy Jassy, dijo que la demanda de chips de AWS era alta.

“Tenemos la selección más amplia de instancias de computación de NVIDIA, pero la demanda de nuestro silicio personalizado, entrenamiento e inferencia es bastante alta, dado sus beneficios favorables de precio-rendimiento en comparación con las alternativas disponibles.”

Andy Jassy

Jassy también mencionó a los primeros adoptantes de los chips de silicio de AWS en su carta a los inversores, diciendo que “ya tenemos varios clientes usando nuestros chips de IA, incluyendo Anthropic, Airbnb, Hugging Face, Qualtrics, Ricoh y Snap”. Al mismo tiempo, Anthropic es un caso completamente diferente porque Amazon es el mayor respaldo de la startup. El gigante de la nube ha invertido $4 mil millones en Anthropic, y el acuerdo de inversión lo obliga a usar silicio diseñado por AWS.

Un Componente Principal de AWS Aprovecha las GPUs de Nvidia

Amazon Web Services ofrece una variedad de procesadores, desde los chips Grass Hopper de Nvidia hasta AMD e Intel. La mayor parte de su rentabilidad proviene del diseño de sus propios chips de centros de datos, lo que le ayuda a ahorrar costos evitando comprar GPUs de Nvidia.

También lea: Nvidia Experimenta un Crecimiento Notable Ante el Aumento de la Demanda de IA y GPUs

Amazon debutó su primer chip de IA, Inferntia, en 2018, pero Nvidia aún lidera en ofrecer soluciones que son más ampliamente adoptadas por diferentes industrias. AWS, Microsoft y Google son algunos de los mayores clientes de Nvidia. Todos estos gigantes alquilan GPUs a través de sus servicios en la nube. 

En marzo, Adam Selipsku, CEO de AWS, asistió a Nvidia GTC 2023. Ambas empresas hicieron un anuncio conjunto centrado en su colaboración estratégica para avanzar en la IA generativa. 

“La profunda colaboración entre nuestras dos organizaciones se remonta a más de 13 años, cuando juntos lanzamos la primera instancia de nube GPU del mundo en AWS, y hoy ofrecemos la gama más amplia de soluciones GPU de NVIDIA para los clientes.”

Selipsku

La plataforma de Nvidia, llamada CUDA, es generalmente preferida por los desarrolladores. Como Nvidia pasó muchos años de tiempo y esfuerzo en crearla, y la industria la ha adoptado, lo que facilita las cosas para ellos. Por otro lado, Amazon todavía tiene que resolver este rompecabezas con prueba y error.

Reportaje de Cryptopolitan por Aamir Sheikh