Cloudflare lidera el camino para llevar la IA al borde

Cloudflare, la reconocida red de distribución de contenido y plataforma de seguridad en la nube, busca hacer que la inteligencia artificial (IA) sea accesible para desarrolladores de todo el mundo. Cloudflare ha introducido una infraestructura basada en GPU y capacidades de servicio de modelos, aprovechando su red edge para impulsar modelos básicos de vanguardia para el público general. Con una simple llamada a la API REST, cualquier desarrollador puede acceder a la plataforma de IA de Cloudflare, lo que representa un paso significativo hacia la democratización de la IA.

La evolución de la red perimetral de Cloudflare

En 2017, Cloudflare presentó Workers, una plataforma informática sin servidor en el borde. Esta innovadora plataforma permite a los desarrolladores crear Service Workers de JavaScript que se ejecutan directamente en las ubicaciones de borde de Cloudflare en todo el mundo. Con Workers, los desarrolladores pueden modificar las solicitudes y respuestas HTTP de un sitio, realizar solicitudes paralelas y responder directamente desde el borde. Este enfoque simplifica el desarrollo web y mejora el rendimiento, en línea con el estándar de Service Workers del W3C.

Integración de IA con trabajadores de Cloudflare

El auge de la IA generativa ha impulsado a Cloudflare a ampliar su plataforma Worker con capacidades de IA. La integración de IA de Cloudflare consta de tres elementos clave:

1. IA de trabajadores: Este componente opera en GPU NVIDIA dentro de la red global de Cloudflare, lo que permite modelos de IA sin servidor. Con un modelo de pago por uso, los usuarios pueden centrarse en sus aplicaciones en lugar de en la gestión de la infraestructura, lo que hace que la IA sea más accesible y rentable.

2. Vectorize: La base de datos vectorial de Cloudflare, Vectorize, facilita la indexación y el almacenamiento de vectores de forma rápida y rentable. Es compatible con casos de uso que requieren acceso a modelos operativos y datos personalizados, lo que aporta versatilidad a las aplicaciones de IA.

3. Puerta de enlace de IA: La puerta de enlace de IA permite a las organizaciones almacenar en caché, limitar la velocidad y supervisar sus implementaciones de IA en diferentes entornos de alojamiento. Mejora la observabilidad, la limitación de velocidad y el almacenamiento en caché, lo que reduce los costos y optimiza el rendimiento de las aplicaciones.

Alianzas estratégicas y catálogo de modelos

Cloudflare ha forjado alianzas estratégicas con líderes de la industria, como NVIDIA, Microsoft, Hugging Face, Databricks y Meta, para integrar la infraestructura de GPU y los modelos de base en su red edge. La plataforma también aloja modelos de incrustación para convertir texto en vectores. Estos vectores se almacenan, indexan y consultan mediante Vectorize, lo que añade contexto a los grandes modelos de lenguaje (LLM) y reduce las alucinaciones de respuesta. AI Gateway mejora el rendimiento al proporcionar observabilidad, limitación de velocidad y almacenamiento en caché para los modelos de IA con consultas frecuentes.

El catálogo de modelos de Cloudflare para Workers AI incluye los modelos básicos más recientes y avanzados. Desde Llama 2 de Meta hasta Stable Diffusion XL y Mistral 7B, los desarrolladores pueden acceder a un conjunto completo de herramientas para crear aplicaciones modernas basadas en IA generativa.

Optimización de modelos de IA con el tiempo de ejecución de ONNX

En segundo plano, Cloudflare utiliza ONNX Runtime, un entorno de ejecución de intercambio de redes neuronales abierto liderado por Microsoft, para optimizar la ejecución de modelos en entornos con recursos limitados. Esta tecnología, también empleada por Microsoft para ejecutar modelos base en Windows, garantiza una implementación eficiente de IA en diversos entornos.

Los desarrolladores tienen múltiples opciones para integrar IA en sus aplicaciones a través de Cloudflare. Si bien JavaScript permite escribir código de inferencia de IA e implementarlo en la red edge de Cloudflare, también pueden invocar modelos de IA mediante una API REST sencilla con el lenguaje que prefieran. Esta flexibilidad facilita la integración de IA generativa en aplicaciones web, de escritorio y móviles, independientemente del entorno.

Expansión global de la IA de los trabajadores

En septiembre de 2023, Cloudflare lanzó Workers AI con capacidades de inferencia en siete ciudades. Sin embargo, la compañía se ha fijado el ambicioso objetivo de ofrecer soporte para la inferencia de Workers AI en 100 ciudades para finales de año, con una cobertura prácticamente ubicua prevista para finales de 2024. Esta rápida expansión garantiza que los desarrolladores de todo el mundo puedan aprovechar el poder de la IA en el edge.

Cloudflare es uno de los primeros proveedores de redes de distribución de contenido (CDN) y redes edge en mejorar su red edge con capacidades de IA, impulsadas por Workers AI con GPU, Vectorize y AI Gateway. En colaboración con gigantes tecnológicos como Meta y Microsoft, Cloudflare ofrece un catálogo de modelos diverso y aprovecha ONNX Runtime para la optimización. Esta estrategia no solo posiciona a Cloudflare como líder del sector, sino que también sienta las bases para la democratización de la IA en el edge.

El compromiso de Cloudflare de hacer que la IA sea accesible para los desarrolladores representa un hito significativo en el panorama de la IA. Al integrar a la perfección las capacidades de IA en su red edge, Cloudflare permite a los desarrolladores aprovechar la IA generativa en sus aplicaciones, impulsando la innovación y ampliando el alcance de la IA. Con el foco puesto en la expansión global, Cloudflare está preparado para liderar la democratización de la IA en beneficio de todos los desarrolladores y usuarios.