Gemini: Um avanço em aceleradores de chiplets de DNN em larga escala

No mundo em constante evolução das Redes Neurais Profundas (DNNs), a demanda por maior poder computacional e capacidade de armazenamento cresceu exponencialmente. A tecnologia de chiplets surge como uma solução atraente para atender a essas demandas, oferecendo o potencial de aumentar o desempenho, reduzir o consumo de energia e aprimorar a flexibilidade de projeto. No entanto, ela apresenta seus desafios, incluindo custos elevados de encapsulamento e interfaces Die-to-Die (D2D) dispendiosas. Para enfrentar esses desafios de frente, uma equipe de pesquisa colaborativa da Universidade Tsinghua, da Universidade Xi'an Jiaotong, do IIISCT e do Laboratório de IA de Xangai apresentou o Gemini. Essa estrutura inovadora visa revolucionar os aceleradores de chiplets para DNNs em larga escala.

Gemini brilha com resultados impressionantes

Em seu artigo recente intitulado “Gemini: Co-exploração de mapeamento e arquitetura para aceleradores de chiplets de DNN em larga escala”, a equipe de pesquisa apresenta o Gemini como uma solução abrangente. Essa estrutura inovadora concentra-se na co-exploração de arquitetura e mapeamento para expandir os limites dos aceleradores de chiplets de DNN em larga escala. Os resultados são simplesmente notáveis, com o Gemini alcançando uma melhoria média de desempenho de 1,98× e um aumento significativo na eficiência energética de 1,41× em comparação com a arquitetura Simba, considerada o estado da arte.

Principais desafios na tecnologia de chiplets

O desenvolvimento do Gemini surge como resposta a dois desafios principais da tecnologia de chiplets. No âmbito arquitetônico, o principal desafio reside em determinar a granularidade ideal dos chiplets. Isso exige um equilíbrio delicado entre o uso de inúmeros chiplets menores para melhorar o rendimento e a opção por um número menor de chiplets maiores para controlar os custos. No mapeamento de redes neurais profundas (DNN), os desafios decorrem da escala expansiva possibilitada pela tecnologia de chiplets e dos custos elevados associados às conexões D2D.

Soluções inovadoras da Gemini

Para abordar esses desafios de forma eficaz, a equipe de pesquisa introduz um método de codificação centrado em camadas para representar esquemas LP SPM (Layer Processing Scratchpad Memory) em aceleradores de inferência DNN com múltiplos núcleos e chiplets. Esse método de codificação delimita o espaço de otimização para mapeamento LP, revelando oportunidades significativas de melhoria. O Gemini utiliza essa codificação e um modelo de hardware altamente configurável para formular uma estrutura de co-exploração de mapeamento e arquitetura para aceleradores DNN com chiplets em larga escala. Essa estrutura compreende o Motor de Mapeamento e o Avaliador de Custo Monetário.

O mecanismo de mapeamento utiliza um algoritmo de recozimento simulado (SA) com cinco operadores especificamente projetados para navegar no extenso espaço defipelo método de codificação. Ele faz isso minimizandomatica comunicação D2D dispendiosa. Simultaneamente, o avaliador de custo monetário avalia o custo monetário de aceleradores com diferentes parâmetros arquitetônicos.

Resultados notáveis

Em um estudo empírico comparando a arquitetura e o mapeamento co-otimizados do Gemini com a arquitetura Simba usando o Tangram SPM, os resultados falam por si. O Gemini alcança uma impressionante melhoria média de desempenho de 1,98× e um notável aumento de 1,41× na eficiência energética em diversas DNNs e tamanhos de lote. Tudo isso com um aumento modesto de apenas 14,3% no custo financeiro.

Avanços pioneiros

A importância do trabalho do Gemini reside em sua abordagem pioneira para defimatico espaço de otimização do LP SPM para aceleradores de inferência de DNN. O Gemini se destaca como a primeira estrutura a explorar conjuntamente o espaço de mapeamento e otimização de arquitetura para aceleradores de chiplets de DNN em larga escala, considerando fatores críticos como consumo de energia, desempenho e custo financeiro.

Um futuro promissor para aceleradores de inferência de redes neurais profundas

A equipe de pesquisa conclui enfatizando o potencial do Gemini para facilitar o projeto de utilização de um único chiplet para múltiplos aceleradores em aceleradores de inferência de DNN. Essa inovação abre novos caminhos para eficiência e inovação nesse campo em rápida evolução.

Gemini, fruto de um esforço colaborativo de pesquisa, surge como um divisor de águas em aceleradores de chiplets para redes neurais profundas em larga escala. Com resultados impressionantes, soluções inovadoras e um espírito pioneiro, Gemini está pronto para remodelar o cenário da aceleração de redes neurais profundas. À medida que a tecnologia de chiplets continua a evoluir, as contribuições de Gemini para o desempenho aprimorado, o consumo de energia reduzido e a maior flexibilidade de design certamente impactarão a área.