阿里巴巴的新方法将AI搜索成本降低了近 90%

阿里巴巴集团表示，它找到了一种将专注于搜索的人工智能模型训练成本降低近90%的方法。

在 论文 上周发布在arXiv服务器上的论文中，这家中国科技公司的研究人员描述了“ZeroSearch”，这是一种训练捷径，允许大型语言模型以极低的成本提高其搜索技能。

阿里巴巴认为，这种方法消除了强化学习中最昂贵的步骤之一：通过付费应用程序编程接口路由数以万计的查询。

ZeroSearch利用这些瓶颈。一个已经拥有广泛知识库的参考模型充当替代搜索引擎，为每个查询生成有用和故意嘈杂的文档。然后使用这些自制的嘈杂文档训练新模型。

微调从直白的提示和干净的答案开始。随着时间的推移，“课程推进”增加了混乱、拼写错误和矛盾，使受训模型体验到更接近开放互联网的环境。

根据论文，数据噪声增强了推理能力，并教会系统在混乱的数据环境中生存。 “我们的关键见解是，大型语言模型在大规模预训练期间获得了广泛的世界知识，并且能够根据搜索查询生成相关文档，”研究人员解释道。

团队不必为每次查询向外部提供商付费。对于资源有限的较小团队来说，这一变化尤为重要。 例如，通过API向Google发送64,000次查询的成本约为586.70美元。使用140亿参数的模型运行相同的训练 AI模型 成本约为70.80美元，节省了88%。

阿里巴巴的ZeroSearch不需要额外的硬件

团队认为，ZeroSearch不会增加额外的硬件需求。它依赖于标准的监督微调，因此云计算需求保持在典型开发预算的范围内。

该论文已在学术机器学习界引起关注。行业观察人士表示，这些节省可能会影响未来财政年度的预算周期。

行业竞争对手一直在竞相降低大型语言模型训练的成本，同时推动新的生成式AI产品。

阿里巴巴的新功能 随着中国公司与Google和OpenAI等美国公司展开竞争，后者都在AI代理上投入巨资。通过报告近十倍的成本削减，阿里巴巴发出信号，表明AI搜索的成本可能很快发生变化。