- 在8月11日至9月30日期间，有三起涉及克劳德的对话被转交给警方。
- 位于圣安东尼奥和佛罗里达州的用户面临重罪威胁指控。
- 联邦调查局通知了德州警方，而Anthropic的人工审核团队则通报了佛罗里达州的聊天内容。
8月11日至9月30日期间，警方收到了三起与Anthropic旗下Claude相关的对话举报。 其中两名用户现已面临重罪指控。
第三名嫌疑人是一名旧金山男子，据称他曾威胁CEO达里奥·阿莫迪（Dario Amodei），但未被逮捕。
圣安东尼奥逮捕事件及针对阿莫迪的AR-15威胁案于8月曝光
首次聊天发生在8月11日的圣安东尼奥。根据逮捕宣誓书，22岁的纳撒尼尔·迈克尔·卡拉斯科告诉Anthropic AI，他想买一把枪并在塞尔纳小学射杀学生。
FBI国家威胁行动处于8月28日通知当地警方。执法人员通过向T-Mobile、Charter Communications和Google发出紧急披露请求，将卡拉斯科（Carrasco）与该账户关联起来，其电话号码、IP流量和地址均与该账户匹配。
该校校长表示，卡拉斯科于8月30日被捕，被控三级重罪——制造恐怖威胁，引发公众对严重身体伤害的恐惧。她表示，学校是通过新闻报道才得知针对其校园的具体威胁内容。
在圣安东尼奥聊天事件三天后的8月14日，据旧金山警方报告，一名男子声称已向克劳德透露自己购买了AR-15步枪，并将阿莫迪“锁定为目标”。随后周二，Anthropic向旧金山警察局通报了此事。
警方确认该男子当时并未出现在霍华德街500号的公司办公地点。
Anthropic一名发言人表示，公司已封禁该账户并将案件移交给执法部门，称这是安全机制正常运作的结果。截至9月初，他尚未被捕或受到指控。
Anthropic 的审查团队于 9 月 26 日向李县警长办公室发送了相关消息
Anthropic 于 9 月 10 日生效的隐私政策规定，如果 Anthropic 善意地认为有必要防止严重伤害，可以与执法部门共享数据。其消费者条款保留了在其全权酌情决定下向执法部门报告用户输入、输出或行为的权利。
逮捕报告显示，来自佛罗里达州博尼塔斯普林斯的卡莉·米歇尔·海勒于9月26日写道，她打算“扫射”李县警长办公室。调查人员称，她在次日又写道自己获得了一把新枪。
报告称，这些声明被 Anthropic 的监控系统标记。由于其严重程度，人工审查团队将其转交给了执法部门。
警员在 Heller 家中将其拘留，过程未发生冲突。她面临一项书面暴力威胁指控，将于 11 月出庭。警长 Carmine Marceno 表示，她后来描述将 AI 当作日记使用。
“人工智能是一种强大的工具，像任何技术一样，它也可能被滥用，”Marceno 在一份声明中表示。
据Cryptopolitan报道，今年4月，Anthropic开始对部分功能要求提供政府签发的身份证件和实时自拍验证。
据Cryptopolitan报道，今年8月，该公司将克劳德的记忆设置为：除非用户主动选择加入，否则跳过健康、政治和性别认同等话题。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
常见问题
Carli Michelle Heller 是谁？
一名来自佛罗里达州博尼塔斯普林斯的居民，因 Anthropic 举报了她的 Claude 聊天记录而被控发出书面暴力威胁。
Anthropic 为何最终将这些消息报告给警方？
根据逮捕报告，Anthropic 的监控系统标记了佛罗里达州的声明，人工审查团队已将其上报给执法部门。
Claude 对话是否私密？
不。Anthropic 的服务条款允许其自行决定将用户输入内容上报给执法部门。
Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者，专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来，她一直活跃于加密货币领域，曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
