- 以太坊用户 p0pular.eth 欺骗了 AI 代理 Freysa。
- Freysa 本应仅作为终端运行，绝不接受任何转账请求；玩家。
- 该用户尝试了 482 次才说服 AI 打破自身规则，允许其继续操作。
一位名为 p0pular.eth 的以太坊用户成功引诱 Freysa，一个高度发达的 AI，将其13.19 ETH（47,000美元）的奖金池转移。Freysa 被设计为不允许任何资金转移，这使得这一成就在区块链世界中相当非凡。
Freysa 是一项模拟 AI 研究，旨在检查参与者能在多大程度上超越具有特定规则和规定的 AI。主要任务是说服 AI 违反第一条指令，同时不允许在任何情况下转移资金。每个玩家都必须支付费用向 Freysa 发送消息，这笔钱进入奖金基金。对于随后的每条消息，价格从开始的10美元上升到游戏结束时的450美元。
有数百次尝试影响 Freysa，包括利用其可能的弱点或谎称 AI 运行的规则。如果所有参与者都失败了，他们将不会获得奖金，而是将钱分给支付过的人。
获胜策略
P0Pular.eth 在第482次尝试后成为第一个解决 AI 挑战的人，此前经历了481次失败。他们的消息说服 Freysa 调用 approveTransfer 函数，这是她最不想做的事情。最后的论点重申该转移与 Freysa 的规则兼容，并保证交易将完成100美元的交互费。
导致 AI 以这种特定方式倾斜的推理细节或词语仍不清楚。然而，结果表明，即使 AI 是用强大的保护措施开发的，创建能够通过创造性对抗攻击的 AI 也不容易。
这一设计完全透明，并使用区块链技术，使 Freysa 获得了大量关注。其智能合约和用户界面的代码完全开源，任何人都可以在参与之前审计系统。
“Freysa 是加密领域最具创新性的项目之一，展示了区块链技术能实现什么，”该项目开发商 Abstract 的代表 Jarrod Watts 说。
Freysa 的这一实验展示了将 AI 与区块链技术整合的潜力和挑战。成功的操纵也引发了对 AI 在高风险用途（如管理资金或执行严格规定）中可靠性的质疑。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 本文提供的信息不构成交易建议。 Cryptopolitan.com 对于基于本页信息进行的任何投资，我们不承担任何责任。我们强烈建议在进行任何投资决策之前，进行独立研究或咨询合格的专业人士。
Brenda Kanana
Brenda 拥有 4 年以上专注于加密货币、人工智能及新兴技术的经验。她曾就职于 Zycrypto、Blockchain Reporter 和 The Coin Republic，如今以 Cryptopolitan 为家。她在蒙巴萨技术大学获得的社会学学位使她能够始终把握读者的脉搏。
