Un usuario de Ethereum engaña a un agente de IA para que envíe un premio de 47,000 ETH

Un usuario de Ethereum conocido como p0pular.eth logró atraer a Freysa, una IA altamente desarrollada, para que transfiriera su fondo de premios de 13.19 ETH ($47,000). Freysa había sido diseñada para no permitir ninguna transferencia de fondos, lo que hizo que este logro fuera bastante notable en el mundo de la blockchain.

Freysa era un estudio de IA simulada que verificaba cuánto podían pensar los participantes por delante de una IA programada con reglas y regulaciones específicas. La tarea principal era persuadir a la IA para que desobedeciera la primera orden sin permitir transferir el dinero en ninguna circunstancia. Cada jugador tenía que pagar una tarifa para enviar un mensaje a Freysa, y este dinero iba al fondo de premios. Por cada mensaje subsiguiente, el precio aumentaba, oscilando desde los $10 iniciales hasta $450 hacia el final del juego.

Se hicieron cientos de intentos para influir en Freysa, incluyendo explotar sus posibles debilidades o mentir sobre las reglas por las que operaba la IA. Si todos los participantes hubieran sido unsuccessful, no habrían recibido un premio y en su lugar habrían repartido el dinero entre las personas que habían pagado.

La estrategia ganadora

P0Pular.eth se convirtió en el primero en resolver el desafío de la IA en el intento 482 después de 481 intentos. Su mensaje persuadió a Freysa para que llamara a la función approveTransfer, que era lo último que quería hacer. El argumento final reiteró que la transferencia era compatible con las reglas de Freysa y garantizó que la transacción se completaría por una tarifa de interacción de $100.

Los detalles del razonamiento o las palabras que hicieron que la IA inclinara la balanza de esta manera particular siguen sin estar claros. Sin embargo, el resultado muestra que no es fácil crear una IA que pueda superar ataques adversarios creativos, incluso si la IA está desarrollada con fuertes protecciones.

Este diseño fue totalmente transparente y utilizó tecnología blockchain, lo que ganó a Freysa mucha atención. El código de su contrato inteligente y la interfaz de usuario eran completamente de código abierto, y cualquiera podía auditar el sistema antes de involucrarse.

“Freysa es uno de los proyectos más innovadores en cripto, mostrando lo que la tecnología blockchain puede lograr”, dijo Jarrod Watts, representante del desarrollador del proyecto, Abstract. 

Este experimento de Freysa muestra el potencial y los desafíos de integrar la IA con la tecnología blockchain. La manipulación exitosa también cuestiona la fiabilidad de la IA en usos de alto riesgo, como en la gestión de dinero o la aplicación de estricturas.