La plateforme de compétences OpenClaw soulève des préoccupations de sécurité à mesure que l'adoption des agents IA s'accélère
- Les compétences d'agent IA OpenClaw restent une porte potentielle pour les exploits.
- ClawHub peut marquer certaines compétences comme bénignes, mais elles peuvent toujours cacher des vulnérabilités.
- Les développeurs d'IA doivent tester les compétences dans un environnement sandbox et éviter de leur donner accès à des données sensibles ou à des portefeuilles.
Des recherches récentes montrent que le système de numérisation des compétences d'OpenClaw n'est pas une frontière sécurisée. La publication de compétences tierces reste un problème pour la création et l'utilisation des agents IA.
Selon des recherches récentes d'experts en sécurité, les compétences d'OpenClaw présentent toujours des menaces pour la sécurité, et le récent système de numérisation des compétences n'est pas une frontière sécurisée. La numérisation des compétences a été proposée comme une passerelle pour les éditeurs de compétences, visant à intercepter des charges utiles de données potentiellement malveillantes ou des éléments malveillants de la compétence elle-même.
Comme l'a signalé Cryptopolitan a rapporté, les services tiers ont déjà posé des risques de sécurité, et l'adoption des agents IA s'accélère, aggravant le problème.
OpenClaw permet à l'utilisateur de créer des agents et de les exécuter sur une machine locale ou un serveur. Cependant, les compétences sont immédiatement associées à OpenClaw et peuvent hériter du même accès aux ressources et aux outils. Puisque certaines compétences impliquent des tâches sensibles telles que l'accès au portefeuille ou les interactions sur la chaîne, les ensembles de compétences publiés par des tiers restent un risque.
Comment OpenClaw vérifie-t-il les compétences pour détecter une intention malveillante ?
Des recherches récentes ont montré que Clawhub utilise VirusTotal, ainsi que le système de modération interne d'OpenClaw. Les résultats de ces vérifications classifient les compétences et génèrent des avertissements pour l'utilisateur lors de l'installation.
Ce système est encore imparfait et peut juger certaines compétences comme inoffensives ou même potentiellement nuisibles. Un problème survient lorsque VirusTotal signale la compétence comme suspecte, mais qu'OpenClaw la considère comme bénigne. L'utilisateur voit un avertissement et peut toujours confirmer l'installation de la compétence. Les compétences entièrement signalées comme malveillantes ne sont pas autorisées au téléchargement.
OpenClaw propose également le sandboxing et des contrôles d'exécution, mais ceux-ci sont facultatifs et ne constituent pas une frontière de sécurité par défaut pour les compétences tierces. OpenClaw laisse le sandboxing basé sur Docker en option, et certains outils restent disponibles même lorsque cette fonction est désactivée.
Les utilisateurs choisissent également le chemin direct car les environnements de sandboxing peuvent être difficiles à déployer, et certaines compétences ne fonctionnent pas correctement. Cela signifie également que la plateforme dépend des avis et des avertissements, un système qui n'offre pas de protection directe lors de l'exécution des compétences des agents.
OpenClaw peut-il détecter les compétences malveillantes ?
OpenClaw a déjà mis en œuvre certaines mesures de sécurité, notamment des vérifications de comportements spécifiquement liés au code de capture qui peut lire les secrets et les envoyer. Cette approche est utilisée dans la sécurité traditionnelle pour détecter les processus suspects, les requêtes et d'autres comportements.
Les compétences des agents IA sont plus difficiles à scanner car les inputs impliquent à la fois du code et des instructions en langage naturel, ainsi que le comportement d'exécution. La sécurité traditionnelle peut avoir des angles morts pour les comportements agents.
La prochaine couche consiste à utiliser le scan par IA pour détecter des comportements plus risqués qui n'ont pas été capturés par une recherche statique ou l'approche habituelle des expressions régulières. Les agents IA peuvent donner un aperçu de la cohérence interne des compétences, sans être exhaustifs quant au potentiel d'exploitation. Ils recherchent le code exploitable le plus évident ou les incohérences générales.
Les chercheurs ont noté que le système de vérification et de modération d'OpenClaw était rapide à approuver les compétences, tandis que VirusTotal mettait parfois plusieurs jours à signaler l'ajout. Il était également possible d'ajouter des exploits à des compétences déjà approuvées. Cela signifiait que le processus d'OpenClaw pouvait proclamer que les compétences étaient bénignes alors qu'elles pouvaient contenir des comportements inattendus.
Pour les développeurs d'agents IA, les chercheurs recommandent le sandboxing ou l'utilisation d'outils pour empêcher les compétences de s'exécuter, même si elles sont signalées comme bénignes. Les chercheurs ont appelé les plateformes de compétences à supposer que les compétences d'apparence normale peuvent cacher des exploits et à éviter de les utiliser dans des environnements à haute valeur, potentiellement en accordant l'accès aux portefeuilles crypto ou à d'autres informations sensibles.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Hristina Vasileva
Hristina Vasileva se spécialise dans les actualités liées à la DeFi, aux entreprises et à l'économie. Elle est diplômée de l'Université de Sofia avec un master en philosophie, après avoir obtenu une licence de quatre ans en administration des affaires, journalisme et communication de masse. Elle a travaillé pour l'un des principaux journaux du pays, couvrant les matières premières et les résultats d'entreprises. Actuellement, Hristina est auteure contributrice chez Cryptopolitan.
