- Microsoft представляет мощную четверку AI-компиляторов, призванных трансформировать оптимизацию AI-моделей.
- Разработанные в сотрудничестве с академическими учреждениями, эти компиляторы обещают повысить производительность AI.
- Строгие тесты показывают, что компиляторы Microsoft превосходят существующие решения, обеспечивая значительный прирост производительности.
Microsoft сделала значительный шаг вперед в области искусственного интеллекта, представив набор из четырех передовых ИИ-компиляторов: Rammer, Roller, Welder и Grinder. Эти мощные инструменты призваны революционизировать способ оптимизации ИИ-моделей, делая разработку быстрее, лучше и мощнее.
Сотрудничество с академическими институтами
Разработанные Microsoft Research в сотрудничестве с ведущими академическими институтами, эти компиляторы представляют собой вершину достижений в области ИИ-компиляции. Они превосходно справляются с преобразованием исходного кода, читаемого человеком, в машинный код — строку из единиц и нулей, которую компьютер может эффективно выполнять. Конечная цель — повысить производительность основных ИИ-моделей при запуске на аппаратных ускорителях, таких как GPU.
В блоге Microsoft Research компания подчеркивает обширные исследования и разработки, вложенные в эти компиляторы. Джилунг Сюэ, главный исследователь MSR Asia, выделяет их потенциальное влияние, говоря: «ИИ-компиляторы, которые мы разработали, продемонстрировали существенное улучшение эффективности компиляции ИИ, тем самым облегчая обучение и развертывание ИИ-моделей».
Четыре столпа ИИ-компиляции
Каждый из четырех новых компиляторов решает различные задачи оптимизации ИИ-нагрузок, обещая прорывные достижения в этой области.
1. Rammer: Максимизация параллелизма оборудования
– Rammer фокусируется на максимизации параллелизма оборудования, что является критическим фактором производительности. Он достигает этого за счет минимизации накладных расходов на планирование во время выполнения и оптимизации использования параллельных ресурсов. Тестирование показало превосходство Rammer, превосходя другие компиляторы до 20 раз на GPU.
2. Roller: Ускорение компиляции
– Roller использует быстрый алгоритм построения для ускорения компиляции. Он упрощает процесс проектирования, позволяя генерировать оптимизированные ядра за секунды, что является значительным сокращением по сравнению с часами, обычно требуемыми. Roller не только соответствует, но часто превосходит современные достижения.
3. Welder: Повышение эффективности памяти
– Welder решает проблему трафика доступа к памяти, снижая расходы за счет соединения операторов в концентрированном конвейере. Он объединяет оптимизации памяти в единую рамку для большей эффективности. Welder превзошел такие фреймворки, как PyTorch, до 21 раза на GPU.
4. Grinder: Оптимизация выполнения потока управления
– Grinder разработан для оптимизации выполнения потока управления на ускорителях путем его интеграции с потоком данных. Этот инновационный подход позволяет оптимизировать границы потока управления, подобно эксперту, направляющему ученика работать быстрее. Grinder ускоряет модели с потоком управления до 8 раз.
Постоянное лидерство Microsoft в достижениях ИИ
Microsoft давно находится в авангарде достижений в области ИИ. Сотрудничество с исследовательской фирмой ИИ OpenAI привело к прорывам, таким как GPT-3.5 и GPT-4, питающие такие решения, как ChatGPT и Bing Chat. Кроме того, партнерство с Meta интегрировало LLaMA-2 в предложения Microsoft по облачным вычислениям. Компания также представила Algorithm of Thoughts для улучшения рассуждений в моделях, таких как ChatGPT.
Превосходство над существующими решениями
В строгих тестах компиляторы Microsoft превзошли существующие решения по нескольким бенчмаркам. Rammer выделялся, превосходя другие компиляторы до 20 раз на GPU. Roller не только соответствовал, но часто превосходил современные достижения, радикально сокращая время компиляции. Welder продемонстрировал свое мастерство, превзойдя такие фреймворки, как PyTorch, до 21 раза на GPU. Grinder преуспел в ускорении моделей с потоком управления до 8 раз.
Введение Rammer, Roller, Welder и Grinder подчеркивает приверженность Microsoft продвижению ИИ-систем. В то время как высокопрофильные партнерства, такие как с OpenAI, привлекают заголовки, компания также активно разрабатывает критическую программную инфраструктуру для поддержки ИИ за кулисами.
С существенным приростом производительности по сравнению с существующими решениями, эти компиляторы обещают обеспечить ключевые конкурентные преимущества по мере того, как ИИ-нагрузки становятся все более сложными. «Тяжелая металлическая четверка» Microsoft представляет собой значительную веху на пути к более эффективному, мощному и доступному искусственному интеллекту.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Эдит Патрик
Эдитах — универсальный финтех-аналитик с глубоким пониманием блокчейн-доменов. Её, как и технологии, поражает пересечение технологий и финансов. Её особый интерес к цифровым кошелькам и блокчейну помогает её аудитории.
