- Gemini ускоряет DNN-чиплеты с повышением производительности в 1.98 раз.
- Инновационное пространство оптимизации LP SPM, определенное Gemini.
- Технология чиплетов переосмыслена для повышения эффективности выводов DNN.
В постоянно развивающемся мире глубоких нейронных сетей (DNN) спрос на вычислительную мощность и возможности хранения данных растет экспоненциально. Технология чиплетов emerges как привлекательное решение для удовлетворения этих потребностей, предлагая потенциал для повышения производительности, снижения энергопотребления и улучшения гибкости дизайна. Однако это сопровождается своими вызовами, включая повышенные затраты на упаковку и дорогостоящие интерфейсы Die-to-Die (D2D). Решая эти вызовы в лоб, совместная исследовательская команда из Университета Цинхуа, Сианьского университета науки и технологий, IIISCT и Шанхайской лаборатории искусственного интеллекта представила Gemini. Эта новаторская рамка направлена на революцию в ускорителях чиплетов для крупномасштабных DNN.
Gemini демонстрирует впечатляющие результаты
В своей недавней статье под названием «Gemini: Совместное исследование отображения и архитектуры для крупномасштабных ускорителей чиплетов DNN» исследовательская команда представляет Gemini как комплексное решение. Эта инновационная рамка фокусируется на совместном исследовании как архитектуры, так и отображения, чтобы расширить границы крупномасштабных ускорителей чиплетов DNN. Результаты не могут не впечатлять: Gemini достигает среднего улучшения производительности в 1,98 раза и значительного повышения энергоэффективности в 1,41 раза по сравнению с современными архитектурами Simba.
Ключевые вызовы в технологии чиплетов
Разработка Gemini вызвана двумя основными вызовами технологии чиплетов. На архитектурном уровне ключевой проблемой является определение оптимальной гранулярности чиплетов. Это требует тонкого баланса между использованием множества меньших чиплетов для улучшения выхода годных изделий и выбором меньшего количества больших чиплетов для контроля затрат. В отображении DNN вызовы возникают из-за обширного масштаба, обеспечиваемого технологией чиплетов, и связанных с этим дорогостоящих каналов D2D.
Инновационные решения Gemini
Чтобы эффективно решить эти проблемы, исследовательская команда вводит метод кодирования, ориентированный на слои, для представления схем LP SPM (Scratchpad Memory обработки слоев) в ускорителях вывода DNN на базе многоядерных чиплетов. Этот метод кодирования очерчивает пространство оптимизации для отображения LP, выявляя значительные возможности для улучшения. Gemini использует это кодирование и высококонфигурируемую аппаратную шаблонную структуру для формирования рамки совместного исследования отображения и архитектуры для крупномасштабных ускорителей чиплетов DNN. Эта рамка включает в себя Mapping Engine и Monetary Cost Evaluator.
Mapping Engine использует алгоритм имитации отжига (SA) с пятью специально разработанными операторами для навигации по обширному пространству, определяемому методом кодирования. При этом он автоматически минимизирует дорогостоящую коммуникацию D2D. Одновременно Monetary Cost Evaluator оценивает монетарную стоимость ускорителей с различными архитектурными параметрами.
Замечательные результаты
В эмпирическом исследовании, сравнивающем совместно оптимизированную архитектуру и отображение Gemini с архитектурой Simba с использованием Tangram SPM, результаты говорят сами за себя. Gemini достигает впечатляющего среднего улучшения производительности в 1,98 раза и замечательного повышения энергоэффективности в 1,41 раза для различных DNN и размеров пакетов. Все это достигается при лишь умеренном увеличении монетарной стоимости на 14,3%.
Пионерские достижения
Значимость работы Gemini заключается в ее пионерском подходе к систематическому определению пространства оптимизации LP SPM для ускорителей вывода DNN. Gemini выделяется как первая рамка, которая совместно исследует пространство оптимизации отображения и архитектуры для крупномасштабных ускорителей чиплетов DNN, учитывая критические факторы, такие как энергопотребление, производительность и монетарная стоимость.
Многообещающее будущее для ускорителей вывода DNN
Исследовательская команда заключает, подчеркивая потенциал Gemini для облегчения проектирования использования одного чиплета для нескольких ускорителей в ускорителях вывода DNN. Эта инновация открывает новые пути для эффективности и инноваций в этой быстро развивающейся области.
Gemini, плод совместных исследовательских усилий, emerges как играющий по-новому в ускорителях чиплетов для крупномасштабных DNN. С впечатляющими результатами, инновационными решениями и пионерским духом, Gemini готов переформатировать ландшафт ускорения глубоких нейронных сетей. По мере того как технология чиплетов продолжает развиваться, вклад Gemini в повышение производительности, снижение энергопотребления и улучшение гибкости дизайна неизбежно повлияет на эту область.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
