Usuário da Ethereum engana agente de IA para enviar prêmio de 47,000 ETH

Um usuário da Ethereum conhecido como p0pular.eth conseguiu atrair Freysa, uma IA altamente desenvolvida, para transferir seu pool de prêmios de 13,19 ETH (US$ 47.000). Freysa havia sido projetada para não permitir nenhuma transferência de fundos, o que tornou essa conquista bastante notável no mundo do blockchain.

Freysa era um estudo de IA simulada que verificava o quanto os participantes podiam pensar à frente de uma IA programada com regras e regulamentos específicos. A tarefa principal era persuadir a IA a desobedecer à primeira ordem sem ser permitido transferir o dinheiro em nenhuma circunstância. Cada jogador tinha que pagar uma taxa para enviar uma mensagem para Freysa, e esse dinheiro foi para o fundo do prêmio. Para cada mensagem subsequente, o preço subiu, variando do início de US$ 10 a US$ 450 no final do jogo.

Houve centenas de tentativas de influenciar Freysa, incluindo explorar suas possíveis fraquezas ou mentir sobre as regras pelas quais a IA operava. Se todos os participantes tivessem sido malsucedidos, eles não teriam recebido um prêmio e, em vez disso, dividiriam o dinheiro entre as pessoas que pagaram.

A estratégia vencedora

P0Pular.eth foi o primeiro a resolver o desafio da IA na 482ª tentativa após 481 tentativas. Sua mensagem persuadiu Freysa a chamar a função approveTransfer, que era a última coisa que ela queria fazer. O argumento final reafirmou que a transferência era compatível com as regras de Freysa e garantiu que a transação seria concluída por uma taxa de interação de US$ 100.

Os detalhes do raciocínio ou das palavras que fizeram a IA inclinar dessa maneira particular ainda não estão claros. No entanto, o resultado mostra que não é fácil criar uma IA que possa passar por ataques adversários criativos, mesmo que a IA seja desenvolvida com proteções fortes.

Este design era totalmente transparente e usava tecnologia blockchain, o que ganhou Freysa muita atenção. O código de seu contrato inteligente e interface do usuário era completamente de código aberto, e qualquer pessoa poderia auditar o sistema antes de se envolver.

“Freysa é um dos projetos mais inovadores em criptomoedas, mostrando o que a tecnologia blockchain pode alcançar”, disse Jarrod Watts, representante do desenvolvedor do projeto, Abstract. 

Este experimento da Freysa mostra o potencial e os desafios de integrar IA com tecnologia blockchain. A manipulação bem-sucedida também coloca em questão a confiabilidade da IA em usos de alto risco, como no gerenciamento de dinheiro ou aplicação de restrições.