微软通过新编译器套件彻底改变AI开发

微软通过推出四款尖端AI编译器套件——Rammer、Roller、Welder和Grinder，在人工智能领域迈出了重大一步。这些强大的工具将彻底改变AI模型的优化方式，使开发更快、更好、更强大。

与学术机构的合作

由微软研究院与领先的学术机构合作开发，这些编译器代表了AI编译领域的巅峰成就。它们擅长将人类可读的源代码转换为机器代码——一串计算机可以高效执行的一和零。最终目标是提高主流AI模型在GPU等硬件加速器上运行时的性能。

在微软研究院的一篇博客文章中，公司强调了在这些编译器上投入的大量研发工作。MSR亚洲首席研究员Jilong Xue强调了它们的潜在影响，他说：“我们开发的AI编译器在AI编译效率方面显示出显著改进，从而促进了AI模型的训练和部署。”

AI编译的四大支柱

四种新编译器中的每一种都解决了优化AI工作负载的不同挑战，有望在该领域取得突破性进展。

1. Rammer：最大化硬件并行性

   – Rammer专注于最大化硬件并行性，这是性能的关键因素。它通过最小化运行时调度开销和优化并行资源的利用来实现这一目标。测试显示Rammer优于其他编译器，在GPU上高出多达20倍。

2. Roller：加速编译

   – Roller采用快速构建算法来加快编译速度。它简化了设计过程，能够在几秒钟内生成优化的内核，这比通常所需的小时数大幅减少。Roller不仅匹配，而且经常超越最先进的性能。

3. Welder：增强内存效率

   – Welder解决内存访问流量问题，通过将操作符连接到一个集中的管道中来降低成本。它将内存优化统一到一个框架中，以提高效率。Welder在GPU上超越了PyTorch等框架多达21倍。

4. Grinder：优化控制流执行

   – Grinder旨在通过将控制流与数据流集成来优化加速器上的控制流执行。这种创新方法允许跨越控制流边界进行优化，类似于专家指导学徒更快地工作。Grinder加速具有控制流的模型多达8倍。

微软在AI进步中的持续领导地位

微软长期以来一直处于AI进步的前沿。与AI研究公司OpenAI的合作导致了GPT-3.5和GPT-4等突破，推动了ChatGPT和Bing Chat等解决方案的发展。此外，与Meta的合作将LLaMA-2整合到微软的云计算产品中。该公司还推出了思维算法，以增强ChatGPT等模型的推理能力。

超越现有解决方案

在严格的测试中，微软的编译器在多项基准测试中均优于现有解决方案。Rammer 表现突出，在 GPU 上的性能比其他编译器高出多达 20 倍。Roller 不仅达到了，而且经常超越最先进的性能，大幅缩短了编译时间。Welder 展示了其实力，在 GPU 上超越了 PyTorch 等框架，性能高出多达 21 倍。Grinder 在加速具有控制流的模型方面表现出色，速度提升了多达 8 倍。

Rammer、Roller、Welder 和 Grinder 的推出，彰显了微软在推进人工智能系统方面的承诺。虽然与 OpenAI 等高调合作伙伴关系占据头条新闻，但该公司也在积极开发关键的软件基础设施，在幕后赋能人工智能。

与现有解决方案相比，这些编译器带来了显著的性能提升，随着人工智能工作负载变得越来越复杂，它们有望提供关键的竞争优势。微软的“重金属四重奏”标志着朝着更高效、更强大且更易获取的人工智能迈进的重要里程碑。