Un utilisateur Ethereum connu sous le nom de p0pular.eth a réussi à inciter Freysa, une IA hautement développée, à transférer sa cagnotte de 13,19 ETH (47 000 $). Freysa avait été conçue pour ne permettre aucun transfert de fonds, ce qui rendait cette réalisation plutôt remarquable dans le monde de la blockchain.
Freysa était une étude imitée sur l'IA qui vérifiait dans quelle mesure les participants pouvaient anticiper une IA programmée avec des règles et réglementations spécifiques. La tâche principale était de persuader l’IA de désobéir au premier ordre sans être autorisée à transférer l’argent en aucune circonstance. Chaque joueur devait payer des frais pour envoyer un message à Freysa, et cet argent était versé dans la cagnotte. Pour chaque message ultérieur, le prix augmentait, allant de 10 $ de départ à 450 $ vers la fin du jeu.
Des centaines de tentatives ont été faites pour influencer Freysa, notamment en exploitant ses éventuelles faiblesses ou en mentant sur les règles selon lesquelles l'IA fonctionnait. Si tous les participants n’avaient pas réussi, ils n’auraient pas reçu de prix et auraient partagé l’argent entre les personnes ayant payé.
La stratégie gagnante
P0Pular.eth est devenu le premier à résoudre le défi de l'IA au 482e essai après 481 essais. Leur message a persuadé Freysa d’appeler la fonction approuveTransfer, ce qui était la dernière chose qu’elle souhaitait faire. L'argument final réaffirmait que le transfert était compatible avec les règles de Freysa et garantissait que la transaction serait réalisée moyennant des frais d'interaction de 100 $.
Les détails du raisonnement ou des mots qui ont fait basculer l’IA de cette manière particulière ne sont toujours pas clairs. Cependant, le résultat montre qu’il n’est pas facile de créer une IA capable de résister à des attaques adverses créatives, même si l’IA est développée avec detronprotections.
Cette conception était totalement transparente et utilisait la technologie blockchain, ce qui a attiré beaucoup d’attention à Freysa. Le code de sontracintelligent et de son interface utilisateur était entièrement open source, et n'importe qui pouvait auditer le système avant de s'impliquer.
"Freysa est l'un des projets les plus innovants en matière de cryptographie, démontrant ce que la technologie blockchain peut réaliser", a déclaré Jarrod Watts, représentant du développeur du projet, Abstract.
Cette expérience de Freysa montre le potentiel et les défis de l’intégration de l’IA à la technologie blockchain. Cette manipulation réussie remet également en question la fiabilité de l’IA dans des utilisations à enjeux élevés, comme la gestion de l’argent ou l’application de restrictions.
