Cloudflare expose l'IA fantôme au travail

Cloudflare, une entreprise américaine qui utilise son réseau mondial et des outils de pointe pour améliorer la vitesse, la sécurité et la fiabilité des sites web, a mis en œuvre des fonctionnalités de supervision de l'IA dans Cloudflare One, sa plateforme de sécurité d'entreprise.

Ces nouvelles fonctionnalités permettront aux départements informatiques d'identifier rapidement qui utilise l'IA et quels types de données ils partagent avec la technologie. Selon Cloudflare, il s'agit d'un moyen fiable pour la main-d'œuvre IT d'obtenir une « vision aux rayons X » de l'utilisation de l'IA générative par les employés, ce qui est également déjà intégré au tableau de bord disponible.

Cela fait suite à des recherches de sources indiquant que plusieurs employeurs dans différentes institutions ont adopté l'introduction de l'IA générative dans les opérations de leurs entreprises. Cependant, certains employés partagent des états financiers internes ou du code propriétaire avec des chatbots IA tels que ChatGPT, Claude ou Gemini, ce qui les expose.

Cette révélation a fait perdre confiance aux employeurs dans la technologie. Partager des détails financiers avec des chatbots IA expose les secrets de l'entreprise, qui finissent dans le cloud.

Dans un article de blog, l'entreprise a souligné : « Les administrateurs peuvent désormais trouver des réponses à des questions telles que : Que font nos employés dans ChatGPT ? Quel type d'informations est téléchargé et utilisé dans Claude ? Gemini est-il correctement configuré dans Google Workspace ? »

Cloudflare met en garde les entreprises contre les actions imprudentes lors de la manipulation d'informations sensibles 

Après avoir mené des recherches approfondies sur l'utilisation de chatbots IA, Les perspectives forward de l'entreprise lui ont donné une impulsion encore plus grande. il a été découvert que trois employés sur quatre incluent ChatGPT, Claude ou Gemini dans leurs opérations quotidiennes. Cela concerne particulièrement des tâches telles que l'évaluation des données, la modification de texte, le débogage et la conception. 

Compte tenu de ces pratiques, l'entreprise a identifié un problème principal qui pourrait survenir lors de l'utilisation de l'IA. Ils ont mentionné que les détails sensibles des entreprises pourraient être téléchargés sur ces chatbots IA de manière non traçable. Pour remédier à cela, les produits de l'entreprise américaine sont conçus pour fonctionner au niveau de l'API et surveiller tout téléchargement suspect dans le système.

Maintenant qu'un tel scénario a été découvert, l'entreprise a mis en garde les individus contre les actions imprudentes lors de la manipulation d'informations sensibles. Selon Cloudflare, des actions négligentes pourraient entraîner un entraînement de modèle externe utilisant les détails confidentiels partagés, et ces détails pourraient ensuite disparaître à jamais.

D'autres grandes entreprises du secteur de la sécurité d'entreprise, comme Zscaler et Palo Alto Networks, offrent également une supervision de l'IA. Même avec ces entreprises en place, Cloudflare affirme toujours que Cloudflare One est imbattable, arguant qu'il dispose d'un modèle hybride qui fonctionne parfaitement sans installer de logiciel sur les appareils. La plateforme comprend également un balayage API pour surveiller la posture du système, les problèmes de configuration et l'exposition des données, tout en offrant un contrôle instantané sur les invites à travers ChatGPT, Claude et Gemini.

En attendant, il est important de noter que Cloudflare s'est imposé en tant que fournisseur d'infrastructure neutre sur le plan du contenu plutôt qu'en tant que modérateur. Pour expliquer cela, l'entreprise ne surveille que ce que ses clients publient lorsqu'ils y sont autorisés. Cette approche est mise en œuvre depuis une décennie. 

Matthew Prince, le PDG de Cloudflare, s'est exprimé sur le sujet de la discussion. Selon Prince, l'entreprise n'est pas un service d'hébergement et n'a aucun autorité pour choisir le contenu autorisé. Cependant, il a déclaré que son objectif principal est de s'assurer que les sites web sont opérationnels, indépendamment de leurs opinions.

Cloudflare fait face aux critiques des individus concernant ses services de site web

La position de Cloudflare en faveur de la liberté d'expression a suscité des critiques, les opposants arguant que l'entreprise permet l'hébergement de sites web nuisibles. Cela inclut ceux contenant de la haine ou du contenu extrême. Selon eux, cela est dû au fait qu'aucune demande formelle de désindexation n'a été soumise.

Ces allégations ont suivi une étude de 2022 de Stanford qui a souligné que Cloudflare est responsable de l'hébergement de certains des sites web de désinformation les plus populaires, par rapport à son trafic internet total.

Malgré cela, plusieurs exceptions ont été faites pour l'entreprise. Par exemple, en 2017, l'entreprise a cessé d'offrir ses services au site suprémaciste blanc The Daily Stormer juste après qu'il a été rapporté que Cloudflare offrait son soutien à sa position pro-nazie.

Peu de temps après, Prince a qualifié leur annonce d'exception involontaire, qui leur avait été arrachée et les avait forcés à briser leur politique de neutralité.