Amazon ha estado desarrollando sus propios chips de IA para reducir costos, lo que también ha ayudado a aumentar la rentabilidad de Amazon Web Services (AWS). Sin embargo, el gigante del comercio electrónico tiene dificultades para desarrollar chips de IA que puedan competir con los chips estándar de Nvidia.
Problemas de migración de proyectos, brechas de compatibilidad y bajo uso son algunas de las preocupaciones que frenan la adopción de los chips de IA de Amazon. La situación también ha puesto en riesgo los importantes ingresos que Amazon genera de su negocio en la nube. Los desafíos que enfrenta Amazon fueron identificados dent través de dent y fuentes familiarizadas con el asunto, según informó Business Insider.
Los chips de inteligencia artificial de Amazon enfrentan una adopción frenada
Trainium e Inferentia son los chips de gama alta diseñados por Amazon que se lanzaron a finales del año pasado. La publicación informó que el año pasado, la tasa de adopción de Trainium entre los clientes de AWS fue de tan solo el 0,5 %, en comparación con la de las unidades de procesamiento gráfico de Nvidia.
Lea también: Las ganancias de Amazon superan las expectativas de Wall Street gracias a los resultados de la IA generativa de AWS
Amazon realizó la evaluación para medir el porcentaje de uso de diferentes chips de IA a través de sus servicios de AWS en abril de 2024, según el informe. Al mismo tiempo, la tasa de adopción de Inferentia fue ligeramente superior, con un 2,7 %. Inferentia es un chip especial diseñado para la inferencia, una tarea de IA que generalmente se refiere al proceso computacional para el uso de modelos de IA por parte de los consumidores finales. El informe mencionó un documento interno que indica que:
“Los primeros intentos de los clientes expusieron puntos de fricción y frenaron la adopción”
La declaración anterior se refiere a los desafíos que han enfrentado los grandes clientes de la nube al migrar a los chips personalizados de Amazon. La plataforma CUDA de Nvidia se considera más atractiva para los clientes, y el informe ladentcomo una razón clave.
El desarrollo de chips de inteligencia artificial personalizados de Amazon está bajo revisión interna
AWS, el mayor proveedor de servicios en la nube del mundo, está desarrollando sus propios chips informáticos para facilitar sus operaciones. Amazon, en ocasiones, presume de sus esfuerzos en chips de IA. Sin embargo, el panorama que se muestra en los documentos difiere de lo que proyecta la compañía.
Los documentos internos indican que la compañía está lidiando con una tasa de adopción lenta, pero el director ejecutivo de Amazon tiene una opinión diferente. En su presentación de resultados del primer trimestre, Andy Jassy afirmó que la demanda de chips AWS era alta.
“Contamos con la selección más amplia de instancias de cómputo de NVIDIA, pero la demanda de nuestro silicio, entrenamiento e inferencia personalizados es bastante alta, dadas sus favorables ventajas en relación precio-rendimiento en comparación con las alternativas disponibles”
Andy Jassy
Jassy también mencionó a los primeros usuarios de chips de silicio de AWS en su carta a los inversores , afirmando que «ya tenemos varios clientes que utilizan nuestros chips de IA, como Anthropic, Airbnb bnb Hugging Face, Qualtrics, Ricoh y Snap». A su vez, Anthropic es un caso completamente diferente, ya que Amazon es el mayor inversor de la startup. El gigante de la nube ha invertido 4000 millones de dólares en Anthropic, y el acuerdo de inversión la obliga a utilizar silicio diseñado por AWS.
Un componente importante de AWS aprovecha las GPU de Nvidia
Amazon Web Services ofrece una variedad de procesadores, desde los chips Grass Hopper de Nvidia hasta AMD e Intel. Gran parte de su rentabilidad proviene del diseño de sus propios chips para centros de datos, lo que le permite ahorrar costes al evitar la compra de GPU de Nvidia.
Lea también: Nvidia experimenta un crecimiento notable en medio de la creciente demanda de IA y GPU
Amazon presentó su primer chip de IA, Inferntia, en 2018, pero Nvidia sigue liderando la oferta de soluciones con mayor adopción en diferentes sectores. AWS, Microsoft y Google son algunos de los principales clientes de Nvidia. Todos estos gigantes alquilan GPU a través de sus servicios en la nube.
En marzo, Adam Selipsku, director ejecutivo de AWS, asistió a Nvidia GTC 2023. Ambas compañías hicieron un anuncio conjunto centrado en su colaboración estratégica para avanzar en la IA generativa.
“La profunda colaboración entre nuestras dos organizaciones se remonta a más de 13 años, cuando juntos lanzamos la primera instancia de nube de GPU del mundo en AWS, y hoy ofrecemos la gama más amplia de soluciones de GPU NVIDIA para los clientes”
Selipsku
La plataforma de Nvidia, llamada Cuda, suele ser la preferida por los desarrolladores. Nvidia dedicó muchos años de tiempo y esfuerzo a su creación y la industria la ha adoptado, lo que facilita su gestión. Por otro lado, Amazon aún tiene que resolver este problema mediante ensayo y error.
Reportaje Cryptopolitan de Aamir Sheikh
