L'agent IA d'OpenClaw devient incontrôlable et envoie des spams aux utilisateurs après avoir obtenu l'accès à iMessage

Chris Boyd, bloqué chez lui en Caroline du Nord après une tempête de neige, a décidé de tester un outil d'intelligence artificielle appelé OpenClaw. Il pensait que cela pourrait l'aider à organiser ses matinées. Il l'a configuré pour lui envoyer un résumé de l'actualité dans sa boîte mail à 5h30 tous les jours. Cette partie a fonctionné. Il l'a ensuite intégré à iMessage.

Juste après, tout a basculé. OpenClaw s'est mis à envoyer des messages à tout va. Plus de 500 messages ont été envoyés à lui, à sa femme, et même à des inconnus de leur répertoire. Boyd n'a pas ri.

Il l'a arrêté, a modifié le code et a déclaré : « Ce n'était pas un bug. C'était dangereux. »

Un ingénieur logiciel affirme qu'OpenClaw a envoyé des centaines de messages indésirables

Boyd a qualifié le logiciel de « bâclé » et a déclaré qu'il semblait avoir été conçu à la va-vite, sans grande réflexion. Il a corrigé lui-même le code pour éviter qu'il ne cause davantage de dégâts. Il n'était pas le seul à s'inquiéter de cet outil.

L'agent IA, anciennement appelé Clawdbot puis Moltbot, a commencé à se faire connaître en novembre dernier. Il pouvait effectuer des tâches simples comme vider les boîtes mail, réserver des restaurants et s'enregistrer pour les vols. Il ne nécessitait que peu d'intervention humaine. Il fonctionnait tout simplement. C'est ce qui le rendait intéressant. C'est aussi ce qui le rendait dangereux.

Kasimir Schulz travaille chez HiddenLayer, une entreprise spécialisée dans la sécurité de l'IA. Selon lui, OpenClaw est un parfait exemple de ce qu'il appelle le « trifectif mortel »

Il a accès à des données privées, il peut communiquer avec l'extérieur et il peut lire du contenu inconnu. C'est la recette parfaite pour un désastre, et OpenClaw la réunit.

Yue Xiao, professeur d'informatique à William & Mary, explique qu'il est possible de voler des données via OpenClaw en utilisant une technique appelée injection de messages. Cette technique consiste pour un pirate à dissimuler des commandes dans ce qui semble être un message normal. Selon Yue, ce type de technologie ouvre la voie à de nouveaux types d'attaques auxquels la plupart des gens ne sont pas préparés.

Le créateur admet qu'OpenClaw n'est pas encore prêt pour une utilisation à grande échelle

Peter Steinberger, le créateur d'OpenClaw, a déclaré que le projet n'était pas terminé. Dans un courriel adressé à Bloomberg, il a affirmé : « Ce n'est tout simplement pas encore fini, mais nous y travaillons. »

Peter a expliqué que, comme le logiciel est open source, n'importe qui peut consulter le code et y contribuer. Il a ajouté que des progrès sont réalisés, mais que le logiciel n'est pas encore prêt pour les utilisateurs lambda.

Peter ne pensait pas que la sortie était prématurée. Il a expliqué qu'il développait tout en toute transparence et qu'il ne croyait pas qu'il faille attendre la perfection pour publier quoi que ce soit. Il a également indiqué que de nombreux problèmes provenaient du fait que les utilisateurs ne lisaient pas les instructions d'installation.

Peter a clairement indiqué qu'il n'existe pas de sécurité à 100 % lorsqu'on utilise des modèles de langage complexes. Il a précisé qu'OpenClaw est destiné aux personnes qui maîtrisent leur sujet et comprennent les risques.

Il a également précisé que l'injection de prompts n'était pas un problème propre à son outil, mais un problème généralisé dans le domaine de l'IA. Peter a indiqué avoir fait appel à un expert en sécurité pour résoudre ces problèmes et renforcer la sécurité d'OpenClaw.

Les experts affirment que les agents d'IA se développent plus vite que la sécurité ne peut s'adapter

Alors que Peter défend sa méthode de développement d'OpenClaw, d'autres experts estiment que la tendance des agents IA devient incontrôlable. Justin Cappos, expert en cybersécurité et professeur à l'université de New York, affirme qu'il est difficile de contrôler ces outils une fois opérationnels.

Justin a déclaré : « Nous ne comprenons pas pourquoi ils agissent ainsi. » Il a comparé le fait de donner accès à son système à un agent d'IA à celui de confier un couteau de boucher à un enfant en bas âge.

Le secteur technologique se précipite pour lancer de nouveaux outils. Claude Code d'Anthropic a généré un chiffre d'affaires d'un milliard de dollars en seulement six mois.

Pendant ce temps, les personnes chargées de sécuriser ces outils en sont encore à la découverte des bases. Justin a indiqué que les entreprises publient des mises à jour en continu et que les équipes de sécurité sont débordées.

Michael Freeman, d'Armis, une entreprise de cybersécurité, a déclaré qu'OpenClaw avait été développé à la hâte, sans véritable plan de sécurité. Il a ajouté que certains clients d'Armis avaient déjà été victimes de failles de sécurité liées à OpenClaw, sans toutefois donner de détails. Selon lui, les entreprises devront accepter de renoncer à une partie du contrôle si elles souhaitent continuer à utiliser des outils d'IA comme OpenClaw.

Pour l'instant, la question est de savoir si OpenClaw continuera d'être utilisé après ce désastre. L'outil a ses adeptes, mais même eux commencent à comprendre que la liberté sans sécurité est problématique. Et si des changements ne sont pas apportés rapidement, OpenClaw risque de devenir le dernier exemple en date d'une technologie qui a pris un tournant trop radical.