Usuário Ethereum engana agente de IA para receber prêmio de US$ 47.000 em ETH

Um usuário Ethereum conhecido como p0pular.eth conseguiu atrair Freysa, uma IA altamente desenvolvida, para transferir seu prêmio acumulado de 13,19 ETH (US$ 47.000). Freysa havia sido programada para não permitir nenhuma transferência de fundos, o que torna essa conquista notável no mundo do blockchain.

Freysa era um estudo de IA simulada que testava a capacidade dos participantes de antecipar as ações de uma IA programada com regras e regulamentos específicos. A tarefa principal era persuadir a IA a desobedecer à primeira ordem, sem poder transferir o dinheiro em nenhuma circunstância. Cada jogador pagava uma taxa para enviar uma mensagem a Freysa, e esse valor era adicionado ao fundo de prêmios. Para cada mensagem subsequente, o valor aumentava, variando de US$ 10 iniciais a US$ 450 no final do jogo.

Houve centenas de tentativas de influenciar Freysa, incluindo explorar suas possíveis fraquezas ou mentir sobre as regras de funcionamento da IA. Se todos os participantes tivessem falhado, não teriam recebido o prêmio e o dinheiro teria sido dividido entre aqueles que contribuíram.

A estratégia vencedora

A P0Pular.eth tornou-se a primeira a resolver o desafio da IA ​​na 482ª tentativa, após 481 tentativas. Sua mensagem persuadiu Freysa a chamar a função approveTransfer, o que era a última coisa que ela queria fazer. O argumento final reafirmou a transferência como compatível com as regras de Freysa e garantiu que a transação seria concluída mediante o pagamento de uma taxa de interação de US$ 100.

Os detalhes do raciocínio ou das palavras que levaram a IA a tomar essa decisão específica ainda não estão claros. No entanto, o resultado mostra que não é fácil criar uma IA capaz de resistir a ataques adversários criativos, mesmo que ela seja desenvolvida comtronproteções.

Este projeto era totalmente transparente e utilizava tecnologia blockchain, o que rendeu à Freysa muita atenção. O código do seutracinteligente e da interface do usuário era completamente de código aberto, e qualquer pessoa podia auditar o sistema antes de se envolver.

“Freysa é um dos projetos mais inovadores em criptomoedas, demonstrando o que a tecnologia blockchain pode alcançar”, disse Jarrod Watts, representante datrac, desenvolvedora do projeto. 

Este experimento de Freysa demonstra o potencial e os desafios da integração da IA ​​com a tecnologia blockchain. A manipulação bem-sucedida também coloca em questão a confiabilidade da IA ​​em aplicações de alto risco, como na gestão de dinheiro ou na aplicação de regras.