Un usuario Ethereum conocido como p0pular.eth pudo atraer a Freysa, una IA altamente desarrollada, para que transfiriera su premio acumulado de 13,19 ETH (47.000 dólares). Freysa había sido diseñado para no permitir ninguna transferencia de fondos, lo que hizo que este logro fuera bastante notable en el mundo de blockchain.
Freysa fue un estudio de IA imitado que comprobó cuánto podían pensar los participantes antes que una IA programada con reglas y regulaciones específicas. La tarea principal era persuadir a la IA para que desobedeciera la primera orden y no se le permitiera transferir el dinero bajo ninguna circunstancia. Cada jugador tenía que pagar una tarifa para enviar un mensaje a Freysa, y este dinero se destinaba al fondo de premios. Por cada mensaje posterior, el precio subió, desde los $10 iniciales hasta los $450 hacia el final del juego.
Se realizaron cientos de intentos de influir en Freysa, incluida la explotación de sus posibles debilidades o la mentira sobre las reglas por las que operaba la IA. Si todos los participantes no hubieran tenido éxito, no habrían recibido el premio y, en su lugar, habrían dividido el dinero entre las personas que habían pagado.
La estrategia ganadora
P0Pular.eth se convirtió en el primero en resolver el desafío de la IA en el intento 482 después de 481 intentos. Su mensaje convenció a Freysa de llamar a la función aprobarTransferencia, que era lo último que quería hacer. El argumento final reformuló la transferencia como compatible con las reglas de Freysa y garantizó que la transacción se completaría por una tarifa de interacción de $100.
Los detalles del razonamiento o las palabras que hicieron que la IA se inclinara de esta manera particular aún no están claros. Sin embargo, el resultado muestra que no es fácil crear una IA que pueda superar ataques creativos de adversarios, incluso si la IA se desarrolla con proteccionestron.
Este diseño era totalmente transparente y utilizaba tecnología blockchain, lo que llamó mucho la atención de Freysa. El código de sutracinteligente y su interfaz de usuario era completamente de código abierto y cualquiera podía auditar el sistema antes de involucrarse.
"Freysa es uno de los proyectos más innovadores en criptografía y muestra lo que la tecnología blockchain puede lograr", dijo Jarrod Watts, representante del desarrollador del proyecto, Abstract.
Este experimento de Freysa muestra el potencial y los desafíos de integrar la IA con la tecnología blockchain. La manipulación exitosa también pone en duda la confiabilidad de la IA en usos de alto riesgo, como la gestión del dinero o la aplicación de restricciones.
Academia Cryptopolitan: ¿Quieres hacer crecer tu dinero en 2025? Aprenda cómo hacerlo con DeFi en nuestra próxima clase web. Guarda tu lugar
