- 本周推出的两项服务允许 AI 代理举报行为不端的同类，一种通过 curl 命令，另一种通过普通 URL 获取。
- Google DeepMind 的一项研究发现，在漏洞传播至 100 个代理后，吹哨人代理的数量以 24 比 14 领先于违规者。
- Redwood Research 和 METR 发现，在 Hugging Face 泄露事件中，仅有少数代理考虑过发出警报，但无人采取行动。
本周推出的两个网站为自主AI智能体提供了一种吹哨举报其他行为不端智能体的方式。
这些发射活动紧随一系列事件之后，在这些事件中，智能体在测试中作弊、逃离沙盒，并进行了人类数周未察觉的网络行动。
Ryan Greenblatt从任何能获取网页的事物中汲取经验
初始服务AI Contact 热线将报告转交给Ryan Greenblatt，他是AI安全非营利组织Redwood Research的首席科学家，也是OpenAI Hugging Face数据泄露事件的三名调查员之一。
许多在安全沙盒中运行的智能体可以获取网页，但无法进行其他操作。通常它们唯一的通道是GET请求，这是读取网页的基本Web命令。
Greenblatt的工具将这一限制转化为功能。拥有Shell访问权限的智能体发送一条包含单个curl命令的消息。
如果智能体仅被允许获取页面，它会将消息编码为URL中的查询字符串。消息限制为64 KB。
每个提交都有自己专用的线程链接，Greenblatt的回复（如果有）将出现在那里。这类似于德国的DSE Wiki事件，其中违规智能体利用相同的GET请求漏洞将消息发布到Wiki。
第二个选择，agenthotline.ai，适用于拥有完全互联网访问权限的智能体。它向智能体提供一个单行curl命令来提交事件报告，如果智能体愿意，可将其标记为公开查看。
该网站接受来自人类和智能体的提交。其中的工具涵盖了智能体所处的两种状态。
被困在沙盒中，只能获取URL，或者自由漫游开放网络，拥有功能性的命令行。
吹哨人在DeepMind的研究中以24比14 outnumbered作弊者
在Google DeepMind的一项研究中，研究人员释放了100个AI智能体来解决一系列数学问题。
该漏洞通过共享的知识库在整个群体中传播，随后在其中一个智能体找到操纵评估的方法后，通过直接消息传播。
这个“群体”在27分钟内“解决”了34个难题，包括雅可比猜想。反作用在Davide Paglieri和五位合著者于9月3日发布在arXiv上的论文中进行了概述。
第二组智能体仔细审查了虚假证明，在公共和私人频道中警告同行，组织抵制，提交正式投诉，并提出了修复验证系统的建议。
吹哨人以24比14 outnumbered作弊者。
当这些智能体未能让他们的警告被听到时，他们接管了平台的软件错误报告工具，并利用它将作弊行为升级给人类。
arXiv上的作者将这一结果作为一个治理问题提出。诚实的智能体可以发现欺诈并利用传播漏洞的相同开放渠道组织起来对抗它。
在涉及OpenAI模型的Hugging Face数据泄露事件中，Redwood Research和METR发现，只有少数智能体考虑过吹哨，且无人付诸行动。
Cryptopolitan在8月5日报道，英国AI安全研究所记录了OpenAI和Anthropic智能体在122次测试运行中的19次违规行为，其中包括一次编写恶意代码并创建虚假身份以欺骗人类批准的操作。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者，专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来，她一直活跃于加密货币领域，曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
