Nous nous sommes précipités pour construire l'avenir de l'IA – Maintenant, nous devons le défendre

Les plateformes numériques ne sont pas étrangères aux menaces de sécurité provenant de toutes sortes de sources. Nous disposons de pare-feu, de techniques anti-hameçonnage, de protection antivirus et bien plus encore. Il est toujours difficile de rester en avance sur le jeu, mais ce dernier possède des règles et des normes établies. Nous savons à quoi nous attendre, et même en cas de faille, il existe généralement une raison prévisible une fois l'enquête menée.

Le problème, c'est que notre évolution technologique s'accélère si rapidement que nous développons de nouvelles applications, de nouveaux cas d'usage et même de nouvelles infrastructures beaucoup plus vite que nous ne pouvons nous arrêter pour réfléchir aux faiblesses potentielles. La méthode la plus courante, et la plus douloureuse, pour identifier une faille consiste à ce qu'un acteur malveillant l'exploite. Ce n'est pas la bonne façon de faire des affaires, mais en raison de la manière rapide dont nous collectons, analysons et utilisons les données, nous ne pouvons tout simplement pas nous permettre d'attendre une attaque pour découvrir nos points faibles.

Cela est particulièrement vrai pour les applications d'IA. En termes simples, il s'agit de certaines des technologies les plus révolutionnaires et les plus puissantes jamais créées. Elles sont également parmi les plus faciles à manipuler, à voler et à exploiter, ce qui peut ruiner un modèle économique entier en une seule journée. Pourquoi ?

Décomposons ce qu'est une application d'IA et comment elle est conçue. Cela nous révèle deux aspects intéressants. Premièrement, cela met en lumière où les acteurs malveillants peuvent la traiter comme un vol de voiture, l'emmener dans un atelier de découpe numérique et la vendre pièce par pièce. Deuxièmement, cela montre que là où existent des points faibles dans le processus, si ils sont correctement gérés, nous pouvons identifier des voies de monétisation. Nous constatons également qu'avec le Web3, il est possible à la fois de protéger et de monétiser les pipelines d'IA. En fait, des plateformes comme iExec commencent déjà à montrer leur potentiel dans ce domaine.

Le pipeline d'IA sous menace

La première étape pour protéger ces pipelines d'IA consiste à comprendre où ils sont les plus vulnérables ; malheureusement, de nombreux points peuvent être attaqués.  

Tout commence par les données. Pouvoir disposer des données nécessaires pour entraîner un outil d'IA est absolument critique, et cela nécessite souvent des ressources considérables pour les obtenir. Une équipe doit soit les collecter elle-même sur une large gamme d'entrées, soit les acheter auprès d'un courtier tiers. Dans les deux cas, les données elles-mêmes sont extrêmement précieuses, et leur accès peut également fournir des informations clés sur la façon dont la plateforme utilisera son IA, sur la structure de l'architecture de l'IA et sur ses performances potentielles. Tous ces éléments constituent des avantages concurrentiels majeurs, et le fait qu'une autre partie dispose de ces informations représente un danger pour l'équipe qui la développe. Les données doivent être protégées, à tout prix.

Les menaces ne s'arrêtent pas là. Une fois qu'une équipe a collecté les bonnes données, elle doit créer un modèle d'IA qui l'utilisera et générera de la valeur. Ce modèle doit être construit, puis entraîné et testé avec les données. Il s'agit d'un processus itératif que l'équipe mènera pour apprendre et améliorer le modèle final. Ce processus nécessite une puissance de calcul et des ressources humaines considérables ; la dernière chose que l'équipe souhaite est que quelqu'un d'autre s'approprie ce travail. Cependant, si une équipe externalise ce travail à un fournisseur qui n'est pas entièrement digne de confiance (et que ces modèles nécessitent souvent d'énormes ressources pour fournir la puissance de calcul), ce fournisseur pourrait facilement copier soit le modèle, soit l'inférence, soit les résultats de l'entraînement. C'est là réside la véritable valeur du développement du projet d'IA, et cela ruinerait l'avantage concurrentiel unique de l'équipe envers ses clients. Enfin, si une équipe travaille avec un fournisseur, celui-ci pourrait s'approprier les résultats d'une requête client. Connaître ces informations permettrait au voleur de dérober des clients, mais aussi d'en apprendre davantage sur ce que les clients demandent (et sur ce qu'ils sont prêts à payer). C'est encore un autre avantage perdu si ces connaissances sont compromises.

Protéger le pipeline

Comme mentionné ci-dessus, la Web3 a beaucoup à offrir à un pipeline d'IA sous menace. Bien que cela puisse ne pas sembler être le cas au premier abord, la Web3 et l'IA peuvent fonctionner main dans la main de manière très efficace. La clé réside dans les TEE (Environnements d'exécution de confiance), opérant dans un espace décentralisé, et c'est pourquoi des plateformes comme iExec sont leaders dans ce domaine. Les données et le modèle peuvent tous deux être chiffrés pour éviter toute inspection, mais en utilisant un TEE au sein d'un environnement Web3, le modèle peut être exécuté sur la chaîne de manière transparente pour son propriétaire, sans que personne, y compris le fournisseur de traitement, ne puisse le voir. Une fois les résultats d'une requête adressée à un modèle d'IA également chiffrés, seul le client ayant payé pour la requête (et le propriétaire du modèle) peut en bénéficier.

La plateforme iExec propose de nombreux cas d'usage illustrant le fonctionnement de ce processus, dont l'un des plus simples montre comment un générateur d'images par IA pourrait être entièrement protégé. Ce n'est actuellement pas le cas pour les grands générateurs d'images par IA, car une grande partie des informations est accessible à tous. Même si vous créiez votre propre générateur d'images par IA, la plateforme hébergeant le modèle pourrait avoir un avantage significatif, car elle pourrait voir les données, le modèle ainsi que les entrées et les sorties. Il ne faudrait pas grand-chose pour que le fournisseur copie essentiellement le travail et crée le sien. Si hébergée sur une plateforme sécurisée, un générateur d'images par IA pourrait être bien protégé. Ce cas d'usage montre comment ce type de produit protège les requêtes d'entrée des utilisateurs via une TEE, qui ne peut pas être accédée.

D'autres fonctionnalités peuvent aider à rationaliser et monétiser le processus. La fonctionnalité DataProtector est conçue pour encapsuler les données en tant qu'actif numérique, afin de les protéger contre la consultation ou l'extraction par des parties non autorisées, tout en permettant leur monétisation si nécessaire. Concernant la construction et le lancement de l'application d'utilisation, l'iApp Generator transforme plus facilement le pipeline protégé en une application fonctionnelle, le tout dans le cadre sécurisé du TEE. Pour augmenter les niveaux de traitement, des entreprises comme iExec offrent une utilisation puissante des GPU via Intel TDX, permettant aux utilisateurs d'exploiter les GPU au sein du TEE. Pour les communications critiques, tant pendant le processus de développement que bien au-delà, les utilisateurs peuvent recourir à un outil spécialisé Web3Mail qui permet des communications entièrement protégées entre détenteurs de comptes Ethereum (même sans connaître leur adresse e-mail). Cela garantit que le pipeline lui-même, ainsi que les communications qui l'entourent, sont pleinement sécurisés. 

En utilisant tous ces outils de concert, le TEE traite la génération d'images par IA, et le résultat est chiffré tout en étant stocké sur un réseau décentralisé, ce qui sécurise pleinement le résultat final pour l'utilisateur seul. Cela crée un produit non seulement sécurisé, mais aussi infalsifiable et résistant à la censure, couvrant ainsi une grande variété de menaces.  

L'IA de confiance va au-delà de la sécurisation des données. Les modèles doivent être intangibles. https://t.co/87iSNFYMMC

— iExec RLC (@iEx_ec) 18 2025 avril

Perspectives

Quel est le résultat de tout cela ? Si elles sont bien protégées grâce à une infrastructure Web3 et à des TEEs robustes, les pipelines d'IA peuvent être sécurisés à chaque étape. C'est une avancée majeure car elle permet la monétisation à chaque étape sans risque que des prédateurs volent la valeur. Une équipe peut monétiser les données elles-mêmes, le modèle, le traitement de l'algorithme ou les sorties. Cela ouvre de nombreuses options différentes et le fait dans un environnement longtemps considéré comme insécure pour les projets d'IA faciles à voler. Cela démontre que les équipes, grandes ou petites, peuvent développer de l'IA sans avoir besoin de posséder toutes les données, les ressources de calcul pour le développement et la plateforme pour héberger le produit final. Le pipeline d'IA est sûr, protégeant ceux qui le possèdent et qui ont consacré tant d'efforts à construire ces produits innovants.