- Gemini acelera los chiplets de DNN con un aumento de rendimiento 1.98×.
- Espacio de optimización innovador de LP SPM definido por Gemini.
- Tecnología de chiplets redefinida para la eficiencia de inferencia de DNN.
En el mundo en constante evolución de las Redes Neuronales Profundas (DNN), la demanda de mayor potencia de cálculo y capacidades de almacenamiento ha crecido exponencialmente. La tecnología chiplet emerge como una solución convincente para satisfacer estas demandas, ofreciendo el potencial de aumentar el rendimiento, reducir el consumo de energía y mejorar la flexibilidad del diseño. Sin embargo, viene con sus desafíos, incluidos los costos elevados de empaquetado y las costosas interfaces Die-to-Die (D2D). Abordando estos desafíos de frente, un equipo de investigación colaborativo de la Universidad de Tsinghua, la Universidad de Jiaotong de Xi’an, IIISCT y el Laboratorio de IA de Shanghái ha presentado Gemini. Este marco revolucionario tiene como objetivo transformar los aceleradores de chiplets DNN a gran escala.
Gemini brilla con resultados impresionantes
En su artículo reciente titulado “Gemini: Exploración conjunta de mapeo y arquitectura para aceleradores de chiplets DNN a gran escala”, el equipo de investigación presenta a Gemini como una solución integral. Este marco innovador se centra en la exploración conjunta de la arquitectura y el mapeo para empujar los límites de los aceleradores de chiplets DNN a gran escala. Los resultados no son menos que notables, con Gemini logrando una mejora promedio del rendimiento de 1,98× y un aumento significativo de la eficiencia energética de 1,41× en comparación con la arquitectura Simba de última generación.
Desafíos clave en la tecnología chiplet
El desarrollo de Gemini surge en respuesta a dos desafíos principales de la tecnología chiplet. En el frente arquitectónico, el desafío clave radica en determinar la granularidad óptima del chiplet. Esto requiere encontrar un equilibrio delicado entre utilizar numerosos chiplets más pequeños para mejorar el rendimiento y optar por menos chiplets más grandes para controlar los costos. En el mapeo DNN, surgen desafíos debido a la escala expansiva habilitada por la tecnología chiplet y los costosos enlaces D2D asociados.
Soluciones innovadoras de Gemini
Para abordar estos desafíos de manera efectiva, el equipo de investigación introduce un método de codificación centrado en capas para representar los esquemas LP SPM (Memoria Scratchpad de Procesamiento de Capas) en aceleradores de inferencia DNN de chiplets many-core. Este método de codificación delimita el espacio de optimización para el mapeo LP, revelando oportunidades significativas de mejora. Gemini aprovecha esta codificación y una plantilla de hardware altamente configurable para formular un marco de exploración conjunta de mapeo y arquitectura para aceleradores de chiplets DNN a gran escala. Este marco comprende el Motor de Mapeo y el Evaluador de Costos Monetarios.
El Motor de Mapeo utiliza un algoritmo de Recocido Simulado (SA) con cinco operadores específicamente diseñados para navegar por el extenso espacio que define el método de codificación. Lo hace mientras minimiza automáticamente la costosa comunicación D2D. Simultáneamente, el Evaluador de Costos Monetarios evalúa el costo monetario de los aceleradores con parámetros arquitectónicos variables.
Resultados notables
En un estudio empírico que compara la arquitectura y el mapeo co-optimizados de Gemini con la arquitectura Simba utilizando Tangram SPM, los resultados hablan por sí mismos. Gemini logra una impresionante mejora promedio del rendimiento de 1,98× y una notable mejora de la eficiencia energética de 1,41× en varias DNN y tamaños de lote. Todo esto viene con un modesto aumento del 14,3% en el costo monetario.
Avances pioneros
La importancia del trabajo de Gemini radica en su enfoque pionero para definir sistemáticamente el espacio de optimización del LP SPM para aceleradores de inferencia DNN. Gemini se destaca como el primer marco en explorar conjuntamente el espacio de optimización de mapeo y arquitectura para aceleradores de chiplets DNN a gran escala, considerando factores críticos como el consumo de energía, el rendimiento y el costo monetario.
Un futuro prometedor para los aceleradores de inferencia DNN
El equipo de investigación concluye enfatizando el potencial de Gemini para facilitar el diseño de emplear un solo chiplet para múltiples aceleradores en aceleradores de inferencia DNN. Esta innovación abre nuevas vías para la eficiencia y la innovación en este campo en rápida evolución.
Gemini, fruto de un esfuerzo de investigación colaborativo, emerge como un cambio de juego en los aceleradores de chiplets DNN a gran escala. Con resultados impresionantes, soluciones innovadoras y un espíritu pionero, Gemini está preparado para remodelar el panorama de la aceleración de redes neuronales profundas. A medida que la tecnología chiplet continúa evolucionando, las contribuciones de Gemini al rendimiento mejorado, la reducción del consumo de energía y la mejora de la flexibilidad del diseño están destinadas a impactar el campo.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Glory Kaburu
Glory es una periodista extremadamente experta con herramientas e investigación sobre IA. Está apasionada por la inteligencia artificial y ha escrito varios artículos sobre el tema. Se mantiene al día con los últimos avances en Inteligencia Artificial, Aprendizaje Automático y Aprendizaje Profundo, y escribe regularmente sobre ellos.
