Cloudflare引领AI边缘计算发展

知名内容分发网络和云安全平台 Cloudflare 致力于让全球开发者都能轻松使用人工智能 (AI)。Cloudflare 已推出基于 GPU 的基础设施和模型服务功能，并利用其边缘网络为大众带来最先进的基础模型。只需简单的 REST API 调用，任何开发者即可接入 Cloudflare 的 AI 平台，这标志着 AI 普及化迈出了重要一步。.

Cloudflare边缘网络的演变

2017 年，Cloudflare 推出了 Workers，一个位于边缘的无服务器计算平台。这个创新平台使开发者能够创建 JavaScript Service Worker，并直接在 Cloudflare 遍布全球的边缘节点上运行。借助 Workers，开发者可以修改网站的 HTTP 请求和响应，发起并行请求，并直接从边缘节点响应。这种方法简化了 Web 开发，提升了性能，并符合 W3C Service Worker 标准。.

AI 与 Cloudflare Workers 的集成

生成式人工智能的兴起促使 Cloudflare 为其 Worker 平台增添了人工智能功能。Cloudflare 的人工智能集成包含三个关键要素：

1. Workers AI：该组件在 Cloudflare 全球网络内的 NVIDIA GPU 上运行，支持无服务器 AI 模型。采用按需付费模式，用户可以专注于应用程序开发，而无需操心基础设施管理，从而使 AI 更易于使用且更具成本效益。.

2. Vectorize：Cloudflare 的矢量数据库 Vectorize 可实现快速且经济高效的矢量索引和存储。它支持需要访问运营模型和定制数据的用例，从而增强了 AI 应用的灵活性。.

3. AI网关：AI网关使组织能够缓存、限制速率并监控其跨托管环境的AI部署。它增强了可观测性、速率限制和缓存功能，从而在优化应用程序性能的同时降低成本。.

战略合作伙伴关系和模型目录

Cloudflare 已与包括 NVIDIA、Microsoft、Hugging Face、Databricks 和 Meta 在内的行业领导者建立了战略合作伙伴关系，旨在将 GPU 基础设施和基础模型引入其边缘网络。该平台还托管嵌入模型，用于将文本转换为向量。这些向量通过 Vectorize 进行存储、索引和查询，从而为大型语言模型 (LLM) 添加上下文信息并减少响应幻觉。AI 网关通过为频繁查询的 AI 模型提供可观测性、速率限制和缓存来提升性能。.

Cloudflare Workers AI 的模型库囊括了最新、最先进的基础模型。从 Meta 的 Llama 2 到 Stable Diffusion XL 再到 Mistral 7B，开发者可以使用一套全面的工具来构建由生成式 AI 驱动的现代化应用程序。.

使用 ONNX 运行时优化 AI 模型

在后台，Cloudflare 利用由微软主导的开放式神经网络交换运行时 ONNX Runtime 来优化资源受限环境下的模型运行。微软也采用这项技术在 Windows 系统中运行基础模型，从而确保 AI 在各种环境中的高效部署。.

开发者可以通过 Cloudflare 以多种方式将 AI 集成到他们的应用程序中。虽然可以使用 JavaScript 编写 AI 推理代码并将其部署到 Cloudflare 的边缘网络，但开发者也可以使用他们选择的编程语言，通过简单的 REST API 调用 AI 模型。这种灵活性使得无论在何种环境下，都能轻松地将生成式 AI 融入到 Web、桌面和移动应用程序中。.

在全球范围内推广工人人工智能

2023年9月，Cloudflare在七个城市推出了具备推理能力的Workers AI。然而，该公司设定了一个雄心勃勃的目标：到年底前在100个城市支持Workers AI推理，并预计到2024年底实现近乎全面的覆盖。这种快速扩张确保了全球开发者能够充分利用边缘人工智能的强大功能。.

Cloudflare是首批利用人工智能技术增强其边缘网络的CDN和边缘网络提供商之一，其人工智能功能由GPU加速的Workers AI、Vectorize和AI Gateway提供支持。Cloudflare与Meta和微软等科技巨头合作，提供丰富的模型库，并利用ONNX Runtime进行优化。这一战略举措不仅巩固了Cloudflare的行业领先地位，也为边缘人工智能的普及铺平了道路。.

Cloudflare致力于让开发者能够轻松使用人工智能，这标志着人工智能领域的一个重要里程碑。通过将人工智能功能无缝集成到其边缘网络中，Cloudflare赋能开发者在其应用程序中利用生成式人工智能，从而推动创新并扩大人工智能的应用范围。Cloudflare着眼于全球扩张，致力于引领人工智能的普及化进程，造福所有开发者和用户。.