Gemini: Um Avanço em Aceleradores de Chiplets DNN em Grande Escala

No mundo em constante evolução das Redes Neurais Profundas (DNNs), a demanda por maior poder de computação e capacidades de armazenamento cresceu exponencialmente. A tecnologia de chiplet emerge como uma solução atraente para atender a essas demandas, oferecendo o potencial de aumentar o desempenho, reduzir o consumo de energia e melhorar a flexibilidade de design. No entanto, ela vem com seus desafios, incluindo custos de embalagem elevados e interfaces Die-to-Die (D2D) caras. Enfrentando esses desafios de frente, uma equipe de pesquisa colaborativa da Universidade de Tsinghua, Universidade de Xi’an Jiaotong, IIISCT e Laboratório de IA de Xangai apresentou o Gemini. Esta estrutura inovadora visa revolucionar os aceleradores de chiplets DNN em grande escala.

O Gemini brilha com resultados impressionantes

Em seu artigo recente intitulado “Gemini: Mapeamento e Co-exploração de Arquitetura para Aceleradores de Chiplets DNN em Grande Escala”, a equipe de pesquisa apresenta o Gemini como uma solução abrangente. Esta estrutura inovadora foca na co-exploração da arquitetura e do mapeamento para empurrar os limites dos aceleradores de chiplets DNN em grande escala. Os resultados não são nada menos que notáveis, com o Gemini alcançando uma melhoria média de desempenho de 1,98× e um aumento significativo na eficiência energética de 1,41× quando comparado à arquitetura de ponta Simba.

Principais desafios na tecnologia de chiplets

O desenvolvimento do Gemini vem em resposta a dois desafios primários da tecnologia de chiplets. Na frente arquitetural, o principal desafio reside em determinar a granularidade ideal do chiplet. Isso requer um equilíbrio delicado entre usar numerosos chiplets menores para melhorar o rendimento e optar por menos chiplets maiores para controlar os custos. No mapeamento de DNNs, os desafios surgem da escala expansiva habilitada pela tecnologia de chiplets e dos links D2D associados, que são caros.

Soluções inovadoras da Gemini

Para enfrentar esses desafios de forma eficaz, a equipe de pesquisa apresenta um método de codificação centrado em camadas para representar esquemas de LP SPM (Memória Temporária de Processamento de Camada) em aceleradores de inferência DNN baseados em chiplets many-core. Este método de codificação delimita o espaço de otimização para o mapeamento de LP, revelando oportunidades significativas de melhoria. A Gemini utiliza essa codificação e um modelo de hardware altamente configurável para formular um framework de co-exploração de mapeamento e arquitetura para aceleradores de chiplets DNN em larga escala. Este framework compreende o Motor de Mapeamento e o Avaliador de Custo Monetário.

O Motor de Mapeamento utiliza um algoritmo de Recozimento Simulado (SA) com cinco operadores especificamente projetados para navegar pelo extenso espaço definido pelo método de codificação. Ele faz isso enquanto minimiza automaticamente a comunicação D2D dispendiosa. Simultaneamente, o Avaliador de Custo Monetário avalia o custo monetário dos aceleradores com diferentes parâmetros arquitetônicos.

Resultados notáveis

Em um estudo empírico comparando a arquitetura e o mapeamento co-otimizados da Gemini com a arquitetura Simba usando Tangram SPM, os resultados falam por si. A Gemini alcança uma impressionante melhoria média de desempenho de 1,98× e um notável aumento de 1,41× na eficiência energética em várias DNNs e tamanhos de lote. Tudo isso vem com apenas um modesto aumento de 14,3% no custo monetário.

Avanços pioneiros

A importância do trabalho da Gemini reside em sua abordagem pioneira para definir sistematicamente o espaço de otimização do LP SPM para aceleradores de inferência DNN. A Gemini se destaca como o primeiro framework a explorar conjuntamente o espaço de otimização de mapeamento e arquitetura para aceleradores de chiplets DNN em larga escala, considerando fatores críticos como consumo de energia, desempenho e custo monetário.

Um futuro promissor para aceleradores de inferência DNN

A equipe de pesquisa conclui enfatizando o potencial da Gemini para facilitar o design de aceleradores de inferência DNN que empregam um único chiplet para múltiplos aceleradores. Esta inovação abre novas vias para eficiência e inovação neste campo em rápida evolução.

Gemini, fruto de um esforço de pesquisa colaborativo, surge como um divisor de águas nos aceleradores de chiplets DNN em larga escala. Com resultados impressionantes, soluções inovadoras e um espírito pioneiro, a Gemini está posicionada para remodelar o cenário da aceleração de redes neurais profundas. À medida que a tecnologia de chiplets continua a evoluir, as contribuições da Gemini para melhor desempenho, redução do consumo de energia e maior flexibilidade de design estão destinadas a impactar o campo.