Gemini : une avancée majeure dans les accélérateurs de puces DNN à grande échelle

Dans le monde en constante évolution des réseaux neuronaux profonds (DNN), la demande en puissance de calcul et en capacités de stockage a connu une croissance exponentielle. La technologie des chiplets apparaît comme une solution prometteuse pour répondre à ces besoins, offrant la possibilité d'améliorer les performances, de réduire la consommation d'énergie et d'accroître la flexibilité de conception. Cependant, elle présente des défis, notamment des coûts d'encapsulation élevés et des interfaces puce-à-puce (D2D) onéreuses. Pour relever ces défis, une équipe de recherche collaborative de l'Université Tsinghua, de l'Université Jiaotong de Xi'an, de l'IIISCT et du Laboratoire d'IA de Shanghai a mis au point Gemini. Ce cadre novateur vise à révolutionner les accélérateurs de chiplets pour DNN à grande échelle.

Gémeaux brille par des résultats impressionnants

Dans leur récent article intitulé « Gemini : Co-exploration du mappage et de l'architecture pour les accélérateurs de chiplets DNN à grande échelle », l'équipe de recherche présente Gemini comme une solution complète. Ce cadre novateur se concentre sur la co-exploration de l'architecture et du mappage afin de repousser les limites des accélérateurs de chiplets DNN à grande échelle. Les résultats sont tout simplement remarquables : Gemini atteint une amélioration moyenne des performances de 1,98× et un gain significatif d'efficacité énergétique de 1,41× par rapport à l'architecture Simba de pointe.

Principaux défis de la technologie des chiplets

Le développement de Gemini répond à deux défis majeurs posés par la technologie des chiplets. Sur le plan architectural, le principal défi consiste à déterminer la granularité optimale des chiplets. Cela implique de trouver un juste équilibre entre l'utilisation de nombreux chiplets plus petits pour améliorer le rendement et le choix d'un nombre réduit de chiplets plus grands pour maîtriser les coûts. Dans le domaine de la cartographie des réseaux de neurones profonds (DNN), les défis proviennent de l'échelle considérable permise par la technologie des chiplets et des liaisons D2D coûteuses qui en découlent.

Les solutions innovantes de Gemini

Pour relever efficacement ces défis, l'équipe de recherche introduit une méthode d'encodage centrée sur les couches pour représenter les schémas LP SPM (Layer Processing Scratchpad Memory) dans les accélérateurs d'inférence DNN à chiplets multicœurs. Cette méthode d'encodage délimite l'espace d'optimisation du mappage LP, révélant d'importantes opportunités d'amélioration. Gemini exploite cet encodage et un modèle matériel hautement configurable pour formuler un cadre d'exploration conjointe du mappage et de l'architecture pour les accélérateurs DNN à chiplets à grande échelle. Ce cadre comprend le moteur de mappage et l'évaluateur de coût monétaire.

Le moteur de mappage utilise un algorithme de recuit simulé (SA) avec cinq opérateurs spécialement conçus pour explorer le vaste espace defipar la méthode d'encodage. Il réalise cette opération tout en minimisantmaticles communications D2D coûteuses. Parallèlement, l'évaluateur de coût monétaire évalue le coût des accélérateurs en fonction de leurs paramètres architecturaux.

Résultats remarquables

Une étude empirique comparant l'architecture et le mappage co-optimisés de Gemini avec l'architecture Simba, à l'aide de Tangram SPM, donne des résultats éloquents. Gemini affiche une amélioration impressionnante des performances moyennes (1,98×) et une remarquable efficacité énergétique (1,41×) sur différents réseaux de neurones profonds et pour différentes tailles de lots. Le tout pour un surcoût modeste de seulement 14,3 %.

Avancées pionnières

L'importance des travaux de Gemini réside dans son approche novatrice de la defimaticde l'espace d'optimisation de la programmation linéaire en nombres entiers (LP SPM) pour les accélérateurs d'inférence de réseaux de neurones profonds (DNN). Gemini se distingue comme le premier cadre à explorer conjointement l'espace d'optimisation du mappage et de l'architecture pour les accélérateurs de puces DNN à grande échelle, en tenant compte de facteurs critiques tels que la consommation d'énergie, les performances et le coût.

Un avenir prometteur pour les accélérateurs d'inférence DNN

L'équipe de recherche conclut en soulignant le potentiel de Gemini pour faciliter la conception d'accélérateurs utilisant une seule puce pour plusieurs accélérateurs dans les systèmes d'inférence de réseaux de neurones profonds. Cette innovation ouvre de nouvelles perspectives en matière d'efficacité et d'innovation dans ce domaine en pleine évolution.

Gemini, fruit d'une recherche collaborative, révolutionne les accélérateurs de réseaux neuronaux profonds à grande échelle grâce à ses puces. Fort de résultats impressionnants, de solutions innovantes et d'un esprit pionnier, Gemini est en passe de transformer le paysage de l'accélération des réseaux neuronaux profonds. À mesure que la technologie des puces évolue, les contributions de Gemini en matière de performances accrues, de consommation d'énergie réduite et de flexibilité de conception améliorée auront un impact considérable sur le domaine.