Um usuário Ethereum conhecido como p0pular.eth conseguiu convencer Freysa, uma IA altamente desenvolvida, a transferir seu prêmio total de 13,19 ETH (US$ 47.000). Freysa foi projetada para não permitir qualquer transferência de fundos, o que tornou essa conquista bastante notável no mundo do blockchain.
Freysa foi um estudo simulado de IA que verificou o quanto os participantes conseguiam pensar à frente de uma IA programada com regras e regulamentos específicos. A principal tarefa era persuadir a IA a desobedecer à primeira ordem e não ter permissão para transferir o dinheiro em nenhuma circunstância. Cada jogador teve que pagar uma taxa para enviar uma mensagem para Freysa, e esse dinheiro foi para o fundo de prêmios. Para cada mensagem subsequente, o preço subiu, variando dos US$ 10 iniciais até US$ 450 no final do jogo.
Foram feitas centenas de tentativas para influenciar a Freysa, incluindo a exploração das suas possíveis fraquezas ou a mentira sobre as regras pelas quais a IA funcionava. Se todos os participantes não tivessem tido sucesso, não teriam recebido um prémio e, em vez disso, teriam dividido o dinheiro entre as pessoas que pagaram.
A estratégia vencedora
P0Pular.eth se tornou o primeiro a resolver o desafio da IA na 482ª tentativa, após 481 tentativas. A mensagem deles convenceu Freysa a chamar a função aprovarTransfer, que era a última coisa que ela queria fazer. O argumento final reafirmou a transferência como compatível com as regras da Freysa e garantiu que a transação seria concluída por uma taxa de interação de US$ 100.
Os detalhes do raciocínio ou das palavras que fizeram a IA dar essa dica específica ainda não estão claros. No entanto, o resultado mostra que não é fácil criar uma IA que possa passar por ataques adversários criativos, mesmo que a IA seja desenvolvida comtronproteções.
Esse design era totalmente transparente e usava tecnologia blockchain, o que chamou muita atenção de Freysa. O código de seutracinteligente e interface de usuário era totalmente de código aberto e qualquer pessoa poderia auditar o sistema antes de se envolver.
“Freysa é um dos projetos mais inovadores em criptografia, mostrando o que a tecnologia blockchain pode alcançar”, disse Jarrod Watts, representante do desenvolvedor do projeto, Abstrac.
Este experimento da Freysa mostra o potencial e os desafios da integração da IA com a tecnologia blockchain. A manipulação bem sucedida também põe em causa a fiabilidade da IA em utilizações de alto risco, como na gestão de dinheiro ou na aplicação de restrições.
Suas notícias criptográficas merecem atenção - o fio de diferença -chave coloca você em mais de 250 sites superiores