Un utilisateur Ethereum trompe un agent IA pour obtenir un prix de 47 000 $ en ETH

Un utilisateur Ethereum connu sous le pseudonyme de p0pular.eth est parvenu à convaincre Freysa, une intelligence artificielle très performante, de lui transférer sa cagnotte de 13,19 ETH (47 000 $). Freysa ayant été conçue pour empêcher tout transfert de fonds, cet exploit est d'autant plus remarquable dans l'univers de la blockchain.

Freysa était une étude d'intelligence artificielle simulée visant à évaluer la capacité des participants à anticiper les actions d'une IA programmée selon des règles et des contraintes spécifiques. L'objectif principal était de persuader l'IA de désobéir au premier ordre, sans jamais pouvoir effectuer de transfert d'argent. Chaque joueur devait payer pour envoyer un message à Freysa ; cette somme alimentait la cagnotte. Le prix augmentait pour chaque message suivant, passant de 10 $ au départ à 450 $ en fin de partie.

Des centaines de tentatives d'influence sur Freysa ont été menées, notamment en exploitant ses failles potentielles ou en mentant sur les règles de fonctionnement de l'IA. Si tous les participants avaient échoué, ils n'auraient pas reçu de prix et la somme aurait été partagée entre les contributeurs.

La stratégie gagnante

P0Pular.eth a été le premier à résoudre le défi de l'IA à sa 482e tentative, après 481 essais. Son message a convaincu Freysa d'appeler la fonction approveTransfer, ce qu'elle redoutait le plus. L'argument final réaffirmait la compatibilité du transfert avec les règles de Freysa et garantissait que la transaction serait effectuée moyennant des frais d'interaction de 100 $.

Les détails du raisonnement ou des mots qui ont conduit l'IA à réagir de cette manière précise restent flous. Cependant, ce résultat montre qu'il n'est pas aisé de créer une IA capable de résister à des attaques adverses sophistiquées, même dotée de protectionstron.

Ce concept, entièrement transparent et basé sur la technologie blockchain, a valu à Freysa une grande notoriété. Le code de sontracintelligent et de son interface utilisateur était totalement open source, permettant à quiconque d'auditer le système avant toute utilisation.

« Freysa est l'un des projets les plus innovants dans le domaine des cryptomonnaies, démontrant ce que la technologie blockchain peut accomplir », a déclaré Jarrod Watts, un représentant du développeur du projet, Abstract. 

Cette expérience menée par Freysa illustre le potentiel et les défis de l'intégration de l'IA à la technologie blockchain. La réussite de cette manipulation soulève également des questions quant à la fiabilité de l'IA dans des contextes critiques, tels que la gestion financière ou le respect des réglementations.