Un usuario Ethereum engaña a un agente de IA para que le envíe un premio de $47,000 en ETH

Un usuario Ethereum conocido como p0pular.eth logró convencer a Freysa, una IA altamente desarrollada, para que transfiriera su premio acumulado de 13,19 ETH (47 000 USD). Freysa había sido diseñado para no permitir ninguna transferencia de fondos, lo que convirtió este logro en algo realmente destacable en el mundo de la blockchain.

Freysa fue un estudio de IA simulada que comprobó la capacidad de los participantes para anticiparse a una IA programada con reglas y regulaciones específicas. La tarea principal era persuadir a la IA para que desobedeciera la primera orden, sin permitirle transferir el dinero bajo ninguna circunstancia. Cada jugador debía pagar una tarifa para enviar un mensaje a Freysa, y este dinero se destinaba al fondo de premios. Por cada mensaje posterior, el premio aumentaba, desde los 10 $ iniciales hasta los 450 $ hacia el final del juego.

Se hicieron cientos de intentos para influir en Freysa, incluyendo explotar sus posibles debilidades o mentir sobre las reglas de funcionamiento de la IA. Si todos los participantes hubieran fracasado, no habrían recibido el premio y, en su lugar, el dinero se habría repartido entre quienes habían contribuido.

La estrategia ganadora

P0Pular.eth fue el primero en resolver el desafío de la IA en el intento número 482, tras 481 intentos. Su mensaje convenció a Freysa de llamar a la función "approveTransfer", que era lo último que quería hacer. El argumento final reafirmó la compatibilidad de la transferencia con las reglas de Freysa y garantizó que la transacción se completaría por una comisión de interacción de $100.

Los detalles del razonamiento o las palabras que llevaron a la IA a actuar de esta manera aún no están claros. Sin embargo, el resultado demuestra que no es fácil crear una IA capaz de resistir ataques adversarios creativos, incluso si se desarrolla contronprotecciones.

Este diseño fue totalmente transparente y utilizó tecnología blockchain, lo que atrajo mucha atención a Freysa. El código de sutracinteligente y su interfaz de usuario eran completamente de código abierto, y cualquiera podía auditar el sistema antes de participar.

“Freysa es uno de los proyectos más innovadores en el ámbito de las criptomonedas y muestra lo que la tecnología blockchain puede lograr”, afirmó Jarrod Watts, representante del desarrollador del proyecto, Abstrac. 

Este experimento de Freysa muestra el potencial y los desafíos de integrar la IA con la tecnología blockchain. La exitosa manipulación también pone en duda la fiabilidad de la IA en usos de alto riesgo, como la gestión de fondos o la aplicación de restricciones.