Un utente Ethereum inganna un agente AI per inviare un premio di 47,000 ETH
- Un utente su Ethereum con l'handle p0pular.eth ha ingannato l'agente AI Freysa.
- Freysa era destinata a rimanere un terminale e ad accettare mai richieste di trasferimento; giocatori.
- Ci sono voluti 482 tentativi all'utente per convincere l'AI a infrangere le proprie regole e permettere loro di procedere.
Un utente Ethereum noto come p0pular.eth è riuscito a indurre Freysa, un'IA altamente sviluppata, a trasferire il suo pool di premi di 13,19 ETH ($47.000). Freysa era stata progettata per non consentire alcun trasferimento di fondi, il che ha reso questo risultato piuttosto notevole nel mondo della blockchain.
Freysa era uno studio di IA simulata che verificava quanto i partecipanti potessero pensare in anticipo rispetto a un'IA programmata con regole e regolamenti specifici. Il compito principale era persuadere l'IA a disobbedire al primo ordine senza essere autorizzata a trasferire i soldi in alcuna circostanza. Ogni giocatore doveva pagare una tassa per inviare un messaggio a Freysa, e questo denaro andava nel fondo premi. Per ogni messaggio successivo, il prezzo aumentava, variando dai $10 iniziali fino a $450 verso la fine del gioco.
Sono stati fatti centinaia di tentativi di influenzare Freysa, tra cui sfruttare le sue possibili debolezze o mentire sulle regole secondo cui l'IA operava. Se tutti i partecipanti fossero stati unsuccessful, non avrebbero ricevuto un premio e avrebbero invece diviso il denaro tra le persone che avevano pagato.
La strategia vincente
P0Pular.eth è diventato il primo a risolvere la sfida dell'IA al 482° tentativo dopo 481 tentativi. Il loro messaggio ha persuaso Freysa a chiamare la funzione approveTransfer, che era l'ultima cosa che voleva fare. L'argomento finale ha ribadito che il trasferimento era compatibile con le regole di Freysa e ha garantito che la transazione sarebbe stata completata per una tassa di interazione di $100.
I dettagli del ragionamento o le parole che hanno fatto inclinare l'IA in questo modo particolare sono ancora poco chiari. Tuttavia, il risultato mostra che non è facile creare un'IA in grado di superare attacchi avversari creativi, anche se l'IA è sviluppata con forti protezioni.
Questo design era completamente trasparente e utilizzava la tecnologia blockchain, che ha attirato molta attenzione su Freysa. Il codice del suo contratto intelligente e dell'interfaccia utente era completamente open-source, e chiunque poteva auditare il sistema prima di coinvolgersi.
«Freysa è uno dei progetti più innovativi nel crypto, che mostra cosa può raggiungere la tecnologia blockchain», ha dichiarato Jarrod Watts, un rappresentante dello sviluppatore del progetto, Abstract.
Questo esperimento di Freysa mostra il potenziale e le sfide dell'integrazione dell'IA con la tecnologia blockchain. La manipolazione di successo mette anche in discussione l'affidabilità dell'IA in usi ad alto rischio, come nella gestione del denaro o nell'applicazione di restrizioni.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Brenda Kanana
Brenda vanta oltre 4 anni di esperienza specializzata in criptovalute, intelligenza artificiale e tecnologie emergenti. Ha lavorato presso Zycrypto, Blockchain Reporter e The Coin Republic e ora ha fatto di Cryptopolitan la sua casa. La sua laurea in Sociologia presso l'Università Tecnica di Mombasa la mantiene in sintonia con il pubblico dei lettori.
