Gemini : Une avancée majeure dans les accélérateurs de puces DNN à grande échelle

Dans le monde en constante évolution des Réseaux Neuronaux Profonds (DNN), la demande en puissance de calcul et en capacités de stockage a augmenté de manière exponentielle. La technologie des puces modulaires (chiplets) émerge comme une solution attrayante pour répondre à ces exigences, offrant le potentiel d'augmenter les performances, de réduire la consommation d'énergie et d'améliorer la flexibilité de conception. Cependant, elle présente ses propres défis, notamment des coûts d'emballage élevés et des interfaces Die-to-Die (D2D) coûteuses. Pour relever ces défis de front, une équipe de recherche collaborative de l'Université Tsinghua, de l'Université Xi'an Jiaotong, de l'IIISCT et du Shanghai AI Laboratory a présenté Gemini. Ce cadre révolutionnaire vise à transformer les accélérateurs de puces DNN à grande échelle.

Gemini brille par des résultats impressionnants

Dans leur récent article intitulé « Gemini : Co-exploration de la cartographie et de l'architecture pour les accélérateurs de chiplets DNN à grande échelle », l'équipe de recherche présente Gemini comme une solution complète. Ce cadre innovant se concentre sur la co-exploration de l'architecture et de la cartographie pour repousser les limites des accélérateurs de chiplets DNN à grande échelle. Les résultats sont tout simplement remarquables, Gemini atteignant une amélioration moyenne des performances de 1,98× et une augmentation significative de l'efficacité énergétique de 1,41× par rapport à l'architecture Simba de pointe.

Défis clés de la technologie des chiplets

Le développement de Gemini répond à deux défis principaux de la technologie des chiplets. Sur le plan architectural, le défi principal réside dans la détermination de la granularité optimale des chiplets. Cela nécessite de trouver un équilibre délicat entre l'utilisation de nombreux petits chiplets pour améliorer le rendement et l'optique de moins de chiplets plus grands pour contrôler les coûts. Dans le mappage DNN, des défis surgissent de l'échelle étendue permise par la technologie des chiplets et des liens D2D coûteux qui en découlent.

Solutions innovantes de Gemini

Pour répondre efficacement à ces défis, l'équipe de recherche introduit une méthode d'encodage centrée sur les couches pour représenter les schémas LP SPM (mémoire tampon de traitement par couche) dans les accélérateurs d'inférence DNN à chiplets multi-cœurs. Cette méthode d'encodage délimite l'espace d'optimisation pour le mappage LP, révélant des opportunités significatives d'amélioration. Gemini exploite cet encodage et un modèle matériel hautement configurable pour formuler un cadre de co-exploration de la cartographie et de l'architecture pour les accélérateurs de chiplets DNN à grande échelle. Ce cadre comprend le Moteur de Cartographie et l'Évaluateur des Coûts Monétaires.

Le Moteur de Cartographie utilise un algorithme de Recuit Simulé (SA) avec cinq opérateurs spécifiquement conçus pour naviguer dans l'espace vaste défini par la méthode d'encodage. Il le fait tout en minimisant automatiquement les communications D2D coûteuses. Simultanément, l'Évaluateur des Coûts Monétaires évalue le coût monétaire des accélérateurs avec différents paramètres architecturaux.

Résultats remarquables

Dans une étude empirique comparant l'architecture et la cartographie co-optimisées de Gemini avec l'architecture Simba utilisant Tangram SPM, les résultats parlent d'eux-mêmes. Gemini réalise une impressionnante amélioration moyenne des performances de 1,98× et une remarquable amélioration de l'efficacité énergétique de 1,41× sur divers DNN et tailles de lot. Tout cela s'accompagne d'une augmentation modeste de seulement 14,3 % du coût monétaire.

Avancées pionnières

L'importance du travail de Gemini réside dans son approche pionnière de la définition systématique de l'espace d'optimisation du LP SPM pour les accélérateurs d'inférence DNN. Gemini se distingue comme le premier cadre à explorer conjointement l'espace d'optimisation de la cartographie et de l'architecture pour les accélérateurs de chiplets DNN à grande échelle, en tenant compte de facteurs critiques tels que la consommation d'énergie, les performances et le coût monétaire.

Un avenir prometteur pour les accélérateurs d'inférence DNN

L'équipe de recherche conclut en soulignant le potentiel de Gemini à faciliter la conception utilisant un seul chiplet pour plusieurs accélérateurs dans les accélérateurs d'inférence DNN. Cette innovation ouvre de nouvelles voies pour l'efficacité et l'innovation dans ce domaine en rapide évolution.

Gemini, fruit d'un effort de recherche collaboratif, s'impose comme un changement de jeu dans les accélérateurs de chiplets DNN à grande échelle. Avec des résultats impressionnants, des solutions innovantes et un esprit pionnier, Gemini est bien placé pour remodeler le paysage de l'accélération des réseaux neuronaux profonds. Alors que la technologie des chiplets continue d'évoluer, les contributions de Gemini en matière de performances accrues, de consommation d'énergie réduite et de flexibilité de conception améliorée sont destinées à impacter le domaine.