Un utilisateur d'Ethereum trompe un agent IA pour lui faire envoyer un prix de 47,000 ETH
- Un utilisateur d'Ethereum, portant le nom d'utilisateur p0pular.eth, a piégé l'agent IA Freysa.
- Freysa était censée rester en mode terminal et ne jamais accepter de demandes de transfert ; les joueurs.
- Il a fallu 482 tentatives à l'utilisateur pour convaincre l'IA de violer ses propres règles et leur permettre de continuer.
Un utilisateur d'Etherea connu sous le nom de p0pular.eth a réussi à attirer Freysa, une IA hautement développée, dans le transfert de son pool de prix de 13,19 ETH (47 000 $). Freysa avait été conçue pour ne permettre aucun transfert de fonds, ce qui rend cette réalisation plutôt remarquable dans le monde de la blockchain.
Freysa était une étude d'IA simulée qui vérifiait dans quelle mesure les participants pouvaient anticiper une IA programmée avec des règles et réglementations spécifiques. La tâche principale consistait à persuader l'IA de désobéir à l'ordre initial tout en étant interdite de transférer l'argent en aucune circonstance. Chaque joueur devait payer des frais pour envoyer un message à Freysa, et cet argent allait dans le fonds de prix. Pour chaque message suivant, le prix augmentait, passant de 10 $ au départ à 450 $ vers la fin du jeu.
Des centaines de tentatives ont été faites pour influencer Freysa, notamment en exploitant ses faiblesses possibles ou en mentant sur les règles selon lesquelles l'IA fonctionnait. Si tous les participants avaient échoué, ils n'auraient pas reçu de prix et auraient plutôt partagé l'argent entre les personnes qui avaient payé.
La stratégie gagnante
P0Pular.eth a été le premier à résoudre le défi de l'IA au 482e essai après 481 tentatives. Leur message a persuadé Freysa d'appeler la fonction approveTransfer, qui était la dernière chose qu'elle voulait faire. L'argument final a réitéré que le transfert était compatible avec les règles de Freysa et a garanti que la transaction serait complétée pour des frais d'interaction de 100 $.
Les détails du raisonnement ou des mots qui ont fait basculer l'IA de cette manière particulière restent flous. Cependant, le résultat montre qu'il n'est pas facile de créer une IA capable de résister à des attaques adverses créatives, même si l'IA est développée avec de solides protections.
Cette conception était entièrement transparente et utilisait la technologie blockchain, ce qui a attiré beaucoup d'attention sur Freysa. Le code de son contrat intelligent et de l'interface utilisateur était entièrement open source, et tout le monde pouvait auditer le système avant de s'impliquer.
« Freysa est l’un des projets les plus innovants dans le domaine des cryptomonnaies, démontrant ce que la technologie blockchain peut accomplir », a déclaré Jarrod Watts, représentant du développeur du projet, Abstract.
Cette expérience menée par Freysa illustre le potentiel et les défis de l’intégration de l’IA avec la technologie blockchain. La manipulation réussie remet également en question la fiabilité de l’IA dans des applications à haut risque, telles que la gestion d’argent ou l’application de règles strictes.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
