Cloudflare ouvre la voie à l'intégration de l'IA en périphérie du réseau

Cloudflare, la plateforme de sécurité cloud et de réseau de diffusion de contenu de renom, ambitionne de rendre l'intelligence artificielle (IA) accessible aux développeurs du monde entier. Grâce à son infrastructure basée sur les GPU et à ses capacités de déploiement de modèles, Cloudflare met à disposition du grand public des modèles de pointe. Un simple appel à l'API REST permet à tout développeur d'accéder à la plateforme d'IA de Cloudflare, une avancée majeure vers la démocratisation de l'IA.

L'évolution du réseau périphérique de Cloudflare

En 2017, Cloudflare a lancé Workers, une plateforme de calcul sans serveur en périphérie de réseau. Cette plateforme innovante permet aux développeurs de créer des Service Workers JavaScript qui s'exécutent directement sur les serveurs périphériques de Cloudflare à travers le monde. Grâce à Workers, les développeurs peuvent modifier les requêtes et réponses HTTP d'un site, effectuer des requêtes en parallèle et répondre directement depuis la périphérie du réseau. Cette approche simplifie le développement web et améliore les performances, conformément à la norme Service Workers du W3C.

Intégration de l'IA avec les travailleurs de Cloudflare

L'essor de l'IA générative a incité Cloudflare à enrichir sa plateforme Worker de fonctionnalités d'IA. L'intégration de l'IA par Cloudflare repose sur trois éléments clés :

1. Workers AI : Ce composant s’exécute sur les GPU NVIDIA au sein du réseau mondial de Cloudflare, permettant ainsi l’exécution de modèles d’IA sans serveur. Grâce à un modèle de paiement à l’usage, les utilisateurs peuvent se concentrer sur leurs applications plutôt que sur la gestion de l’infrastructure, rendant l’IA plus accessible et plus économique.

2. Vectorize : La base de données vectorielles de Cloudflare, Vectorize, facilite l’indexation et le stockage rapides et économiques des vecteurs. Elle prend en charge les cas d’utilisation nécessitant l’accès à des modèles opérationnels et à des données personnalisées, ce qui accroît la polyvalence des applications d’IA.

3. Passerelle IA : La passerelle IA permet aux organisations de mettre en cache, de limiter le débit et de surveiller leurs déploiements d’IA dans différents environnements d’hébergement. Elle améliore l’observabilité, la limitation du débit et la mise en cache, réduisant ainsi les coûts tout en optimisant les performances des applications.

Partenariats stratégiques et catalogue de modèles

Cloudflare a noué des partenariats stratégiques avec des leaders du secteur, tels que NVIDIA, Microsoft, Hugging Face, Databricks et Meta, afin d'intégrer l'infrastructure GPU et les modèles de base à son réseau périphérique. La plateforme héberge également des modèles d'embedding permettant de convertir du texte en vecteurs. Ces vecteurs sont stockés, indexés et interrogés grâce à Vectorize, ce qui enrichit le contexte des grands modèles de langage (LLM) et réduit les hallucinations de réponse. La passerelle IA améliore les performances en assurant l'observabilité, la limitation du débit et la mise en cache des modèles d'IA fréquemment sollicités.

Le catalogue de modèles de Cloudflare pour Workers AI propose les modèles de base les plus récents et les plus performants. De Llama 2 de Meta à Stable Diffusion XL en passant par Mistral 7B, les développeurs bénéficient d'une suite complète d'outils pour créer des applications modernes basées sur l'IA générative.

Optimisation des modèles d'IA avec l'environnement d'exécution ONNX

En coulisses, Cloudflare utilise ONNX Runtime, un environnement d'exécution ouvert pour les réseaux neuronaux développé par Microsoft, afin d'optimiser l'exécution des modèles dans des environnements aux ressources limitées. Cette technologie, également employée par Microsoft pour l'exécution des modèles de base sous Windows, garantit un déploiement efficace de l'IA dans des environnements variés.

Les développeurs disposent de plusieurs options pour intégrer l'IA à leurs applications via Cloudflare. Si JavaScript permet d'écrire du code d'inférence IA et de le déployer sur le réseau périphérique de Cloudflare, ils peuvent également invoquer des modèles d'IA via une API REST simple, en utilisant le langage de leur choix. Cette flexibilité facilite l'intégration de l'IA générative dans les applications web, de bureau et mobiles, quel que soit l'environnement.

Développement de l'IA des travailleurs à l'échelle mondiale

En septembre 2023, Cloudflare a lancé Workers AI, doté de capacités d'inférence, dans sept villes. L'entreprise s'est toutefois fixé un objectif ambitieux : étendre la couverture de Workers AI à 100 villes d'ici la fin de l'année, avec une couverture quasi-universelle prévue pour fin 2024. Ce déploiement rapide permet aux développeurs du monde entier d'exploiter la puissance de l'IA en périphérie de réseau.

Cloudflare figure parmi les premiers fournisseurs de réseau de diffusion de contenu (CDN) et de réseau de périphérie à intégrer des capacités d'IA à son réseau de périphérie, grâce à Workers AI (basé sur GPU), Vectorize et AI Gateway. En collaborant avec des géants technologiques tels que Meta et Microsoft, Cloudflare propose un catalogue de modèles diversifié et exploite ONNX Runtime pour l'optimisation. Cette initiative stratégique positionne Cloudflare comme un leader du secteur et ouvre la voie à la démocratisation de l'IA en périphérie de réseau.

L'engagement de Cloudflare à rendre l'IA accessible aux développeurs représente une étape majeure dans le domaine de l'IA. En intégrant harmonieusement les capacités de l'IA à son réseau périphérique, Cloudflare permet aux développeurs d'exploiter l'IA générative dans leurs applications, stimulant ainsi l'innovation et étendant la portée de l'IA. Axé sur son expansion mondiale, Cloudflare est idéalement positionné pour mener la démocratisation de l'IA au bénéfice de tous les développeurs et utilisateurs.