Gemini: Прорыв в области крупномасштабных чиплетных ускорителей для глубоких нейронных сетей

В постоянно развивающемся мире глубоких нейронных сетей (DNN) спрос на увеличение вычислительной мощности и возможностей хранения данных вырос экспоненциально. Технология чиплетов становится привлекательным решением для удовлетворения этих потребностей, предлагая потенциал для повышения производительности, снижения энергопотребления и повышения гибкости проектирования. Однако она сопряжена со своими проблемами, включая высокие затраты на упаковку и дорогостоящие межкристальные интерфейсы (D2D). Для решения этих проблем группа исследователей из Университета Цинхуа, Сианьского университета Цзяотун, IIISCT и Шанхайской лаборатории искусственного интеллекта представила Gemini. Эта новаторская платформа призвана произвести революцию в крупномасштабных чиплетных ускорителях DNN.

Близнецы демонстрируют впечатляющие результаты

В своей недавней статье под названием «Gemini: совместное исследование отображения и архитектуры для крупномасштабных чиплетных ускорителей DNN» исследовательская группа представляет Gemini как комплексное решение. Эта инновационная структура фокусируется на совместном исследовании как архитектуры, так и отображения для расширения границ возможностей крупномасштабных чиплетных ускорителей DNN. Результаты впечатляют: Gemini обеспечивает среднее повышение производительности в 1,98 раза и значительное повышение энергоэффективности в 1,41 раза по сравнению с современной архитектурой Simba.

Ключевые проблемы чиплетной технологии

Разработка Gemini стала ответом на две основные проблемы технологии чиплетов. С архитектурной точки зрения ключевая задача заключается в определении оптимальной гранулярности чиплетов. Это требует достижения тонкого баланса между использованием множества более мелких чиплетов для повышения производительности и выбором меньшего количества более крупных чиплетов для контроля затрат. В области картирования с использованием глубоких нейронных сетей проблемы возникают из-за масштабируемости, обеспечиваемой технологией чиплетов, и связанных с этим дорогостоящих каналов связи D2D.

Инновационные решения Gemini

Для эффективного решения этих задач исследовательская группа разработала послойный метод кодирования для представления схем LP SPM (Layer Processing Scratchpad Memory) в многоядерных чиплетных ускорителях вывода DNN. Этот метод кодирования определяет пространство оптимизации для LP-отображения, выявляя значительные возможности для улучшения. Gemini использует это кодирование и высококонфигурируемый аппаратный шаблон для создания структуры совместного исследования отображения и архитектуры для крупномасштабных чиплетных ускорителей DNN. Эта структура включает в себя механизм отображения и оценщик денежной стоимости.

Механизм отображения использует алгоритм имитированного отжига (SA) с пятью специально разработанными операторами для навигации в обширном пространстве, defiметодом кодирования. При этом онmaticминимизирует дорогостоящую D2D-коммуникацию. Одновременно с этим, инструмент оценки денежной стоимости оценивает стоимость ускорителей с различными архитектурными параметрами.

Впечатляющие результаты

В эмпирическом исследовании, сравнивающем оптимизированную архитектуру Gemini и алгоритм отображения с архитектурой Simba с использованием Tangram SPM, результаты говорят сами за себя. Gemini демонстрирует впечатляющее среднее улучшение производительности в 1,98 раза и значительное повышение энергоэффективности в 1,41 раза при различных размерах пакетов данных. И все это при скромном увеличении финансовых затрат всего на 14,3%.

Новаторские достижения

Значимость работы Gemini заключается в новаторском подходе кmaticdefiпространства оптимизации LP SPM для ускорителей вывода DNN. Gemini выделяется как первая платформа, которая совместно исследует пространство оптимизации отображения и архитектуры для крупномасштабных чиплетных ускорителей DNN, учитывая такие критически важные факторы, как энергопотребление, производительность и стоимость.

Перспективное будущее для ускорителей вывода данных в глубоких нейронных сетях

В заключение исследовательская группа подчеркивает потенциал Gemini в упрощении проектирования систем, использующих единый чиплет для работы с несколькими ускорителями в системах ускорения вывода данных в глубоких нейронных сетях. Это нововведение открывает новые возможности для повышения эффективности и внедрения инноваций в этой быстро развивающейся области.

Gemini, детище совместных исследований, становится настоящим прорывом в области крупномасштабных чиплетных ускорителей глубоких нейронных сетей. Благодаря впечатляющим результатам, инновационным решениям и новаторскому духу, Gemini готов изменить ландшафт ускорения глубоких нейронных сетей. По мере дальнейшего развития чиплетных технологий, вклад Gemini в повышение производительности, снижение энергопотребления и улучшение гибкости проектирования, несомненно, окажет влияние на эту область.