Un utente Ethereum inganna un agente di intelligenza artificiale per convincerlo a inviare un premio in ETH da 47.000 $

Un utente Ethereum noto come p0pular.eth è riuscito a convincere Freysa, un'intelligenza artificiale altamente sviluppata, a trasferire il suo montepremi di 13,19 ETH (47.000 dollari). Freysa era stata progettata per non consentire alcun trasferimento di fondi, il che ha reso questo risultato piuttosto notevole nel mondo della blockchain.

Freysa era uno studio di intelligenza artificiale simulata che verificava quanto i partecipanti fossero in grado di anticipare un'IA programmata con regole e regolamenti specifici. Il compito principale era persuadere l'IA a disobbedire al primo ordine, senza però poter trasferire denaro in nessuna circostanza. Ogni giocatore doveva pagare una quota per inviare un messaggio a Freysa, e questa somma andava a costituire il montepremi. Per ogni messaggio successivo, il premio aumentava, passando dai 10 dollari iniziali ai 450 dollari verso la fine del gioco.

Sono stati fatti centinaia di tentativi di influenzare Freysa, sfruttandone i possibili punti deboli o mentendo sulle regole di funzionamento dell'IA. Se tutti i partecipanti non avessero avuto successo, non avrebbero ricevuto alcun premio e avrebbero invece diviso il denaro tra coloro che avevano versato il contributo.

La strategia vincente

P0Pular.eth è stato il primo a risolvere la sfida dell'IA al 482° tentativo, dopo 481 tentativi. Il loro messaggio ha convinto Freysa a chiamare la funzione approveTransfer, che era l'ultima cosa che voleva fare. L'argomento finale ha ribadito che il trasferimento era compatibile con le regole di Freysa e ha garantito che la transazione sarebbe stata completata per una commissione di interazione di 100 dollari.

I dettagli del ragionamento o le parole che hanno spinto l'IA a ribaltarsi in questo modo particolare non sono ancora chiari. Tuttavia, il risultato dimostra che non è facile creare un'IA in grado di superare attacchi avversari creativi, anche se l'IA è sviluppata contronprotezioni.

Questo design era completamente trasparente e utilizzava la tecnologia blockchain, cosa che ha attirato molta attenzione da parte di Freysa. Il codice del suo smarttrace dell'interfaccia utente erano completamente open source e chiunque poteva verificare il sistema prima di intervenire.

"Freysa è uno dei progetti più innovativi nel campo delle criptovalute, che dimostra cosa può realizzare la tecnologia blockchain", ha affermato Jarrod Watts, rappresentante dello sviluppatore del progetto, Abstrac. 

Questo esperimento di Freysa mostra il potenziale e le sfide dell'integrazione dell'IA con la tecnologia blockchain. La manipolazione riuscita mette anche in discussione l'affidabilità dell'IA in applicazioni ad alto rischio, come la gestione del denaro o l'applicazione di restrizioni.