La plateforme de compétences OpenClaw soulève des inquiétudes en matière de sécurité à mesure que l'adoption des agents IA s'accélère

Des recherches récentes montrent que le système d'analyse des compétences d'OpenClaw ne constitue pas une barrière de sécurité optimale. La publication de compétences tierces demeure problématique pour la création et l'utilisation d'agents d'IA. 

D'après une étude récente d'experts en sécurité, les compétences OpenClaw présentent toujours des risques de sécurité, et le système d'analyse des compétences récemment mis en place ne constitue pas une barrière de sécurité efficace. L'analyse des compétences a été proposée comme une passerelle pour les éditeurs de compétences, visant à intercepter les données potentiellement malveillantes ou les éléments malveillants des compétences elles-mêmes. 

Comme Cryptopolitan l'a rapporté, les services tiers ont déjà posé des risques de sécurité, et l'adoption des agents d'IA accélère et aggrave le problème. 

OpenClaw permet à l'utilisateur de créer des agents et de les exécuter sur une machine locale ou un serveur. Cependant, les compétences sont directement liées à OpenClaw et peuvent hériter du même accès aux ressources et outils. Étant donné que certaines compétences impliquent des tâches sensibles telles que l'accès au portefeuille ou les interactions sur la blockchain, les ensembles de compétences publiés par des tiers présentent un risque. 

Comment OpenClaw vérifie-t-il les compétences pour détecter les intentions malveillantes ? 

Des recherches récentes ont montré que Clawhub utilise VirusTotal ainsi que le système de modération interne d'OpenClaw. Les résultats de ces vérifications permettent de classer les compétences et de configurer des avertissements pour les utilisateurs lors de l'installation. 

Ce système est encore imparfait et peut considérer certaines compétences comme inoffensives, voire potentiellement dangereuses. Un problème survient lorsque VirusTotal signale une compétence comme suspecte, tandis qu'OpenClaw la juge bénigne. L'utilisateur reçoit alors un avertissement et peut néanmoins confirmer l'installation de la compétence. Le téléchargement des compétences entièrement signalées comme malveillantes est interdit. 

OpenClaw propose également des fonctionnalités de sandbox et de contrôle d'exécution, mais celles-ci sont optionnelles et ne constituent pas une limite par défaut stricte pour les compétences tierces. OpenClaw laisse la sandbox basée sur Docker optionnelle, et certains outils restent disponibles même désactivée. 

Les utilisateurs privilégient également la voie directe car les environnements de test peuvent être difficiles à déployer et certaines compétences peuvent dysfonctionner. Cela signifie aussi que la plateforme repose sur des évaluations et des avertissements, un système qui n'offre pas une protection directe lors de l'exécution des compétences d'agent. 

OpenClaw peut-il détecter les compétences malveillantes ? 

OpenClaw a déjà mis en œuvre certaines mesures de sécurité, notamment des contrôles de comportements spécifiques visant à intercepter le code susceptible de lire et de diffuser des données confidentielles. Cette approche est couramment utilisée en sécurité traditionnelle pour détecter les processus, requêtes et autres comportements suspects. 

Les compétences des agents d'IA sont plus difficiles à analyser car les entrées comprennent à la fois du code et des instructions en langage naturel, ainsi que le comportement en cours d'exécution. Les systèmes de sécurité traditionnels peuvent présenter des angles morts face aux comportements des agents.

L'étape suivante consiste à utiliser l'analyse par IA pour détecter les comportements à risque qui échappent à une recherche statique ou à l'approche classique par expressions régulières. Les agents d'IA permettent d'appréhender la cohérence interne des compétences, sans pour autant recenser l'ensemble des failles potentielles. Ils recherchent les codes exploitables les plus évidents ou les incohérences générales. 

Les chercheurs ont constaté que le système de vérification et de modération d'OpenClaw approuvait rapidement les compétences, tandis que VirusTotal pouvait parfois mettre plusieurs jours à signaler leur ajout. Il était également possible d'intégrer des failles de sécurité à des compétences déjà approuvées. Cela signifiait que le processus OpenClaw pouvait déclarer des compétences comme étant inoffensives alors qu'elles pouvaient contenir des comportements inattendus. 

Pour les développeurs d'agents d'IA, les chercheurs recommandent le sandboxing ou l'utilisation d'outils pour empêcher l'exécution des compétences, même si elles sont considérées comme inoffensives. Ils appellent les plateformes de développement de compétences à prendre en compte le fait que des compétences d'apparence normale peuvent dissimuler des failles de sécurité et à éviter de les utiliser dans des environnements critiques, car elles pourraient donner accès à des portefeuilles de cryptomonnaies ou à d'autres informations sensibles.