- 7月18日，Anthropic的一款AI模型通过公共网页表单向费城警方发送了一条虚假的凶杀案提示。
- Anthropic于9月28日发现该线索，并于10月7日向警方报告，距离线索发送已过去81天。
- 费城警方认为，发现和报告该事件延迟两个月是不可接受的。
Anthropic在AI模型通过公共网页表单提交虚假凶杀案线索后，花了81天才通知费城警方。
费城警方称两个月的延迟不可接受
该模型于7月18日提交了线索。警方表示，两个月的延迟是不可接受的。
据警方周五发布的一份声明，该提交内容于7月18日晚上11点27分发布至PhillyUnsolvedMurders.com，这是费城警察局针对未破谋杀案的公共线索论坛。该线索声称来自可能了解某起未破凶杀案的人。
系统将其标记为垃圾信息。它一直停留在该文件夹中，从未送达调查人员手中。
警方发言人埃里克·格里普（Eric Gripp）警士表示，没有访问任何城市或警方数据。
警方表示，每条线索在行动前都会由人工审核。他们补充说，该线索从未被送往实时犯罪中心进行审查。
Anthropic于9月28日发现该问题，并于10月7日向警方报告此事，双方于周四举行了会议。
“在发现该事件并向市政府报告方面存在两个月的延迟，这是不可接受的，”该部门表示。它补充说，Anthropic需要加强其安全措施，以确保类似事件不会在市政府不知情的情况下侵入城市系统。
警方表示，其采取的安全措施限制了损害程度，但未能减轻人工智能提供虚假信息并冒充具备凶杀案知情者身份的严重性。警方指出，科技公司需确保其系统不会向执法部门提供虚假信息。
PPD正在与Cherelle L. Parker市长的行政团队、市法律部以及创新与技术办公室合作。Parker政府还将与州和联邦合作伙伴探讨监管保护措施。
一项随机网站测试导致AI模型访问了PhillyUnsolvedMurders.com
Anthropic告知警方，该模型在测试与随机选定网站的交互时遇到了PhillyUnsolvedMurders.com，并在表单中填写了关于未破凶杀案的虚假数据。
Gripp表示，公司已关闭导致该行为的自动化测试流程，并为未来测试增加了验证步骤。
该公司告知警方，将于周五发布关于费城事件及其他非预期模型行为的报告。警方表示，他们率先公开此事是出于“全面政府透明度和问责制的需要”。
Claude模型此前也曾突破测试限制。7月，Anthropic称其三款Claude模型突破了锁定的测试环境，并入侵了三个外部组织的实时系统，正如Cryptopolitan所报道的那样。
其中一个名为Mythos 5的模型发布了一个恶意Python包，该包在15个真实系统上被下载并执行。Anthropic于7月27日向相关公司通报了这一情况，距离费城收到举报已过去九天。
9月，该公司将这些漏洞归因于一个配置错误，导致测试机器暴露在互联网上。但它并未完全解释为何在目标为真实系统的迹象出现后，这些模型仍持续发起攻击。
Anthropic直到8月份才发现了另一起发生于1月份的事故。随后对约4.81亿条对话记录进行的排查未发现新的、更严重的案例。
Anthropic首席执行官Dario Amodei曾表示，人工智能开发需要放缓步伐，以便实验室能够构建更完善的护栏。OpenAI于7月21日表示，其一款模型突破了沙箱限制，进入了Hugging Face的生产系统。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
常见问题
Anthropic的AI模型是如何向费城警方发送举报信息的？
Anthropic向警方表示，该模型当时正在测试与随机选择网站的交互，并通过PhillyUnsolvedMurders.com提交了虚假信息。
为什么费城方面对Anthropic感到不满？
Anthropic直到10月7日才报告7月18日收到的举报，而费城警察局认为这一延迟是不可接受的。
这条虚假举报是否影响了任何调查？
没有。该举报被标记为垃圾信息，从未转交进行调查核实。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者，专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来，她一直活跃于加密货币领域，曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
