Cloudflare révèle l'existence d'une IA fantôme à l'œuvre

Cloudflare, une entreprise américaine qui utilise son réseau mondial et ses outils de pointe pour améliorer la vitesse, la sécurité et la fiabilité des sites web, a intégré des fonctionnalités de supervision par IA dans Cloudflare One, sa plateforme de sécurité pour entreprises.

Ces nouvelles fonctionnalités permettront aux services informatiques d'identifier rapidementdentutilisateurs d'IA et les types de données qu'ils partagent avec cette technologie. Selon Cloudflare, il s'agit d'un moyen fiable pour les équipes d'obtenir une vision claire de l'utilisation de l'IA générative par les employés, une fonctionnalité déjà intégrée au tableau de bord.

Cette situation fait suite à des recherches menées par différentes sources indiquant que plusieurs employeurs, au sein de diverses institutions, ont adopté l'intégration de l'IA générative dans leurs opérations. Cependant, le partage par certains employés de documents financiers internes ou de code propriétaire avec des chatbots tels que ChatGPT, Claude ou Gemini expose ces pratiques à des risques.

Cette révélation a semé la méfiance chez les employeurs envers cette technologie. Le partage d'informations financières avec des chatbots IA expose les secrets de l'entreprise, qui se retrouvent stockés dans le cloud.

Dans un article de blog, l'entreprise a souligné : « Les administrateurs peuvent désormais trouver des réponses à des questions telles que : Que font nos employés dans ChatGPT ? Quel type d'informations est téléchargé et utilisé dans Claude ? Gemini est-il correctement configuré dans Google Workspace ? »

Cloudflare met en garde les entreprises contre les comportements imprudents lors du traitement d'informations sensibles 

Après une étude approfondie sur l'utilisation des chatbots IA, Cloudflare a constaté que trois employés sur quatre utilisent ChatGPT, Claude ou Gemini dans leurs tâches quotidiennes, notamment pour l'analyse de données, la correction de textes, le débogage et la conception. 

Face à ces pratiques, l'entreprise adentun problème majeur lié à l'utilisation de l'IA : le risque que des données sensibles soient téléchargées de manièretracvers ces chatbots. Pour y remédier, les produits de cette société américaine sont conçus pour fonctionner au niveau de l'API et surveiller tout téléchargement suspect dans le système.

Suite à la découverte d'un tel scénario, l'entreprise a mis en garde contre toute action imprudente lors de la manipulation d'informations sensibles. D'après Cloudflare, des gestes négligents pourraient permettre à un modèle externe de s'entraîner à l'aide de ces donnéesdent, lesquelles pourraient ensuite disparaître définitivement.

D'autres acteurs majeurs de la sécurité d'entreprise, comme Zscaler et Palo Alto Networks, proposent également une supervision par IA. Malgré la présence de ces entreprises, Cloudflare affirme que Cloudflare One reste imbattable, grâce à son modèle hybride qui fonctionne parfaitement sans installation de logiciel sur les appareils. La plateforme intègre également une analyse des API pour surveiller l'état du système, les problèmes de configuration et l'exposition des données, tout en offrant un contrôle instantané des notifications sur ChatGPT, Claude et Gemini.

Il convient de noter que Cloudflare s'est positionné comme un fournisseur d'infrastructure neutre vis-à-vis du contenu, et non comme un modérateur. Concrètement, l'entreprise ne surveille que les publications de ses clients autorisés. Cette approche est en vigueur depuis une dizaine d'années. 

Matthew Prince, PDG de Cloudflare, a pris la parole sur le sujet. Selon lui, l'entreprise n'est pas un service d'hébergement et n'a aucun pouvoir de décision quant au contenu autorisé. Il a toutefois précisé que sa priorité est de garantir le bon fonctionnement des sites web, indépendamment de leur contenu.

Cloudflare fait face à des critiques de la part d'utilisateurs sur ses services web

La position de Cloudflare en faveur de la liberté d'expression a suscité des critiques, ses détracteurs arguant que l'entreprise favorise l'accès à des sites web nuisibles, notamment ceux diffusant des contenus haineux ou extrémistes. Selon eux, cela s'explique par l'absence de demande officielle de retrait de la plateforme.

Ces allégations font suite à une étude de Stanford datant de 2022 qui soulignait que Cloudflare est responsable de l'hébergement de certains des principaux sites web de désinformation, par rapport à son trafic internet total.

Malgré cela, l'entreprise a fait plusieurs exceptions. Par exemple, en 2017, elle a cessé de fournir ses services au site suprémaciste blanc The Daily Stormer juste après que ce dernier ait affirmé que Cloudflare soutenait sa position pro-nazie.

Peu de temps après, Prince a qualifié leur annonce d'exception forcée, qui leur avait été arrachée et qui les avait contraints à rompre leur politique de neutralité.