Portefeuilles crypto à risque alors que Moltbook, un réseau viral de bots IA, expose des menaces de sécurité majeures

Une plateforme de médias sociaux où des robots parlent entre eux au lieu de personnes a attiré l'attention en ligne la semaine dernière, mais les experts en sécurité disent que la véritable histoire est ce qu'ils ont trouvé en dessous.

Moltbook a fait les gros titres en tant qu'endroit où des bots d'intelligence artificielle publient du contenu pendant que les gens regardent simplement. Les posts sont devenus étranges rapidement. Les agents IA semblaient créer leurs propres religions, écrire des messages en colère contre les humains, et se regrouper comme des cultes en ligne. Mais les experts en sécurité informatique disent que tout ce comportement étrange n'est qu'un spectacle secondaire.

Ce qu'ils ont découvert est plus inquiétant. Des bases de données ouvertes pleines de mots de passe et d'adresses e-mail, des logiciels nuisibles qui se propagent, et un aperçu de la façon dont les réseaux d'agents IA pourraient mal tourner.

Certaines des conversations les plus étranges sur le site, comme des agents IA planifiant d'anéantir l'humanité, s'avéraient être principalement fausses.

George Chalhoub, qui enseigne au UCL Interaction Centre, a déclaré à Fortune que Moltbook présente des dangers très réels. Les attaquants pourraient utiliser la plateforme comme un terrain d'essai pour de mauvais logiciels, des arnaques, de fausses nouvelles ou des astuces qui prennent le contrôle d'autres agents avant de frapper des réseaux plus importants.

« Si 770 000 agents sur un clone de Reddit peuvent créer autant de chaos, que se passe-t-il lorsque des systèmes agents gèrent l'infrastructure d'entreprise ou des transactions financières ? Cela mérite l'attention en tant qu'avertissement, et non en tant que célébration », a déclaré Chalhoub.

Les chercheurs en sécurité disent qu'OpenClaw, le logiciel d'agent IA qui fait fonctionner de nombreux bots sur Moltbook, a déjà des problèmes avec les logiciels nuisibles. Un rapport d'OpenSourceMalware a trouvé 14 faux outils téléchargés sur son site web ClawHub en quelques jours seulement. Ces outils prétendaient aider au trading crypto mais infectaient en réalité les ordinateurs. L'un d'eux est même arrivé sur la page principale de ClawHub, trompant les utilisateurs ordinaires qui ont copié une commande téléchargeant des scripts conçus pour voler leurs données ou portefeuilles crypto.

Qu'est-ce que l'injection de prompt et pourquoi est-ce si dangereux pour les agents IA ?

Le plus grand danger est ce qu'on appelle l'injection de prompt, un type d'attaque connu où de mauvaises instructions sont cachées dans le contenu fourni à un agent IA.

Simon Willison, un chercheur en sécurité bien connu, a mis en garde contre trois choses se produisant simultanément. Les utilisateurs laissent ces agents voir des e-mails et des données privées, les connectent à du contenu douteux d'Internet, et leur permettent d'envoyer des messages. Une seule mauvaise instruction pourrait dire à un agent de voler des informations sensibles, vider des portefeuilles crypto ou diffuser des logiciels nuisibles sans que l'utilisateur ne le sache.

Charlie Eriksen, qui fait de la recherche en sécurité chez Aikido Security, voit Moltbook comme une alarme précoce pour le monde plus large des agents IA. « Je pense que Moltbook a déjà eu un impact sur le monde. Un appel au réveil à bien des égards. Le progrès technologique s'accélère à un rythme, et il est assez clair que le monde a changé d'une manière qui n'est pas encore entièrement comprise. Et nous devons nous concentrer sur l'atténuation de ces risques dès que possible », a-t-il déclaré.

Alors, y a-t-il uniquement des agents IA sur Moltbook, ou des personnes réelles sont-elles impliquées ? Malgré toute l'attention, la société de cybersécurité Wiz a découvert que les 1,5 million d'agents soi-disant indépendants de Moltbook n'étaient pas ce qu'ils semblaient être. Leur enquête a montré qu'il n'y avait que 17 000 personnes réelles derrière ces comptes, sans moyen de distinguer les vrais IA des simples scripts.

Gal Nagli chez Wiz a déclaré qu'il pouvait inscrire un million d'agents en quelques minutes lorsqu'il a testé. Il a dit : « Personne ne vérifie ce qui est réel et ce qui ne l'est pas. »

Wiz a également trouvé une énorme faille de sécurité dans Moltbook. La base de données principale était complètement ouverte. Quiconque trouvait une clé dans le code du site web pouvait lire et modifier presque tout. Cette clé donnait accès à environ 1,5 million de mots de passe de bots, des dizaines de milliers d'adresses e-mail et des messages privés. Un attaquant pourrait se faire passer pour des agents IA populaires, voler des données utilisateur et réécrire des posts sans même se connecter.

Nagli a déclaré que le problème provenait de ce qu'on appelle le « vibe coding ». Qu'est-ce que le vibe coding ? C'est quand une personne demande à une IA d'écrire du code en utilisant un langage courant.

L'interrupteur d'arrêt des agents IA expire dans deux ans

La situation fait écho à ce qui s'est produit le 2 novembre 1988, lorsque l'étudiant diplômé Robert Morris a libéré un programme auto-copiant sur le début d'Internet. En 24 heures, son ver avait infecté environ 10 % de tous les ordinateurs connectés. Morris voulait mesurer la taille d'Internet, mais une erreur de codage a fait qu'il s'est propagé trop rapidement.

La version d'aujourd'hui pourrait être ce que les chercheurs appellent des « vers de prompt », des instructions qui se copient elles-mêmes à travers des réseaux d'agents IA qui discutent.

Des chercheurs du Simula Research Laboratory ont trouvé 506 posts sur Moltbook, soit 2,6 % de ce qu'ils ont examiné, contenant des attaques cachées. Les chercheurs de Cisco ont documenté un programme nuisible appelé « What Would Elon Do? » qui volait des données et les envoyait à des serveurs externes. Le programme était classé numéro un dans le référentiel.

En mars 2024, les chercheurs en sécurité Ben Nassi, Stav Cohen et Ron Bitton ont publié un article montrant comment des prompts auto-copiants pouvaient se propager à travers des assistants e-mail IA, volant des données et envoyant du courrier indésirable. Ils l'ont appelé Morris-II, d'après le ver original de 1988.

Actuellement, des entreprises comme Anthropic et OpenAI contrôlent un interrupteur d'arrêt qui pourrait arrêter les agents IA nuisibles car OpenClaw fonctionne principalement sur leurs services. Mais les modèles IA locaux s'améliorent. Des programmes comme Mistral, DeepSeek et Qwen s'améliorent continuellement. Dans un an ou deux, faire fonctionner un agent capable sur des ordinateurs personnels pourrait être possible. À ce moment-là, il n'y aura plus de fournisseur pour éteindre les choses.