Cloudflare lidera o caminho ao levar IA para a borda.

A Cloudflare, renomada rede de distribuição de conteúdo e plataforma de segurança em nuvem, tem como objetivo tornar a inteligência artificial (IA) acessível a desenvolvedores do mundo todo. A Cloudflare introduziu infraestrutura com suporte a GPUs e recursos de disponibilização de modelos, aproveitando sua rede de borda para oferecer modelos de última geração para todos. Com uma simples chamada à API REST, qualquer desenvolvedor pode acessar a plataforma de IA da Cloudflare, marcando um passo significativo rumo à democratização da IA.

A evolução da rede de borda da Cloudflare

Em 2017, a Cloudflare lançou o Workers, uma plataforma de computação sem servidor na borda da rede. Essa plataforma inovadora permite que desenvolvedores criem Service Workers em JavaScript que são executados diretamente nos servidores de borda da Cloudflare ao redor do mundo. Com o Workers, os desenvolvedores podem modificar as requisições e respostas HTTP de um site, fazer requisições paralelas e responder diretamente da borda. Essa abordagem simplifica o desenvolvimento web e melhora o desempenho, estando em conformidade com o padrão Service Workers da W3C.

Integração de IA com os servidores da Cloudflare

A ascensão da IA ​​generativa levou a Cloudflare a aprimorar sua plataforma Worker com recursos de IA. A integração de IA da Cloudflare consiste em três elementos principais:

1. Workers AI: Este componente opera em GPUs NVIDIA dentro da rede global da Cloudflare, possibilitando modelos de IA sem servidor. Com um modelo de pagamento conforme o uso, os usuários podem se concentrar em seus aplicativos em vez do gerenciamento de infraestrutura, tornando a IA mais acessível e econômica.

2. Vectorize: O banco de dados de vetores da Cloudflare, Vectorize, facilita a indexação e o armazenamento de vetores de forma rápida e econômica. Ele oferece suporte a casos de uso que exigem acesso a modelos operacionais e dados personalizados, adicionando versatilidade às aplicações de IA.

3. Gateway de IA: O Gateway de IA permite que as organizações armazenem em cache, limitem a taxa de requisições e monitorem suas implementações de IA em diferentes ambientes de hospedagem. Ele aprimora a observabilidade, a limitação de taxa e o armazenamento em cache, reduzindo custos e otimizando o desempenho dos aplicativos.

Parcerias estratégicas e catálogo de modelos

A Cloudflare estabeleceu parcerias estratégicas com líderes do setor, incluindo NVIDIA, Microsoft, Hugging Face, Databricks e Meta, para levar infraestrutura de GPU e modelos fundamentais para sua rede de borda. A plataforma também hospeda modelos de incorporação para converter texto em vetores. Esses vetores são armazenados, indexados e consultados usando o Vectorize, adicionando contexto a grandes modelos de linguagem (LLMs) e reduzindo as alucinações de resposta. O AI Gateway aprimora o desempenho, fornecendo observabilidade, limitação de taxa e cache para modelos de IA consultados com frequência.

O catálogo de modelos da Cloudflare para Workers AI apresenta os modelos básicos mais recentes e avançados. Do Llama 2 da Meta ao Stable Diffusion XL e ao Mistral 7B, os desenvolvedores podem acessar um conjunto abrangente de ferramentas para criar aplicativos modernos com tecnologia de IA generativa.

Otimizando modelos de IA com o ambiente de execução ONNX

Nos bastidores, a Cloudflare utiliza o ONNX Runtime, um ambiente de execução aberto para troca de redes neurais liderado pela Microsoft, para otimizar a execução de modelos em ambientes com recursos limitados. Essa tecnologia, também empregada pela Microsoft para executar modelos básicos no Windows, garante a implantação eficiente de IA em diversos ambientes.

Os desenvolvedores têm diversas opções para integrar IA em seus aplicativos por meio do Cloudflare. Embora o JavaScript possa ser usado para escrever código de inferência de IA e implantá-lo na rede de borda do Cloudflare, os desenvolvedores também podem invocar modelos de IA por meio de uma API REST simples, usando a linguagem de sua preferência. Essa flexibilidade torna a integração de IA generativa em aplicativos web, desktop e mobile extremamente fácil, independentemente do ambiente.

Expandindo a IA para trabalhadores em nível global

Em setembro de 2023, a Cloudflare lançou o Workers AI com recursos de inferência em sete cidades. No entanto, a empresa estabeleceu a ambiciosa meta de oferecer suporte à inferência do Workers AI em 100 cidades até o final do ano, com cobertura quase onipresente prevista para o final de 2024. Essa rápida expansão garante que desenvolvedores do mundo todo possam aproveitar o poder da IA ​​na borda.

A Cloudflare está entre os primeiros provedores de redes de distribuição de conteúdo (CDN) e de edge computing a aprimorar sua rede de edge computing com recursos de IA, impulsionados pelo Workers AI com suporte a GPU, Vectorize e o AI Gateway. Em colaboração com gigantes da tecnologia como Meta e Microsoft, a Cloudflare oferece um catálogo diversificado de modelos e utiliza o ONNX Runtime para otimização. Essa iniciativa estratégica não apenas posiciona a Cloudflare como líder do setor, mas também abre caminho para a democratização da IA ​​na borda da rede.

O compromisso da Cloudflare em tornar a IA acessível aos desenvolvedores representa um marco significativo no cenário da IA. Ao integrar perfeitamente recursos de IA em sua rede de borda, a Cloudflare capacita os desenvolvedores a aproveitar a IA generativa em seus aplicativos, impulsionando a inovação e expandindo o alcance da IA. Com foco na expansão global, a Cloudflare está preparada para liderar a democratização da IA ​​em benefício de todos os desenvolvedores e usuários.