- 许多AI行业内部人士预计，六到十二个月内将发生一次重大的人工智能驱动事件。
- Anthropic和OpenAI的高管正在向国会简报，以塑造首次灾难后随之而来的规则。
- OpenAI表示，其准备工作演练并不将这些情景视为不可避免。
许多AI行业人士预计，六到十二个月内将发生一次重大的人工智能驱动事件。 据Axios报道，Anthropic、OpenAI和其他大型开发公司的高管们已经在为事后制定规则的立法者开展工作。
高管承认，目前没有任何人工智能法案能够通过，因此他们正试图在华盛顿在首次灾难发生后制定的紧急立法之前抢占先机。
桑德斯法案将对违规者处以最高20年的监禁
规划者预计，民主党人将在11月3日的中期选举后占据更有利的地位，并迅速采取行动应对先进人工智能。然而，这一推动与一个对技术缺乏了解的旧国会相冲突，也与依赖数据中心支出和任何人都可下载的开源模型的经济相矛盾。
公司方面认为，控制参众两院并不能结束内斗，民主党内部也存在分歧。
提案范围从禁止超级智能到暂停先进开发不等。其中一项来自参议员伯尼·桑德斯和众议员格雷格·卡萨尔，名为《禁止人工智能超级智能法案》。
该法案将禁止在广泛任务中匹配或超越人类能力的AI，并在新的联邦机构制定安全标准之前停止先进研发工作。处罚措施包括最高20年的监禁。
两党及部分行业支持为先进模型设置强制关机开关。但一些专家质疑是否所有人工智能系统都能被真正关闭。
一位民主党助手引用2008年金融危机和新冠疫情为例，说明国会在以往紧急情况下曾迅速采取行动。
Anthropic和OpenAI的规划者担心遭遇切断电力和供水的黑客攻击
最可能的场景是一场规模巨大的网络攻击，足以导致银行、互联网服务甚至电力和供水设施瘫痪。规划者预计，不安全AI带来的首次实质性伤害只会让本就警惕的公众进一步对该行业产生抵触情绪。
Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）、OpenAI首席执行官山姆·奥特曼（Sam Altman）以及一直避免对AI进行监管的总统唐纳德·特朗普，都将面临严峻考验。
公司还会对这些极端情况进行红队测试，主动攻击自身防御体系以发现漏洞。
兵棋推演在商业和国家安全的常规实践中十分普遍。在此背景下，许多高级研究人员和高管认为重大事故不可避免。
“OpenAI会开展应急准备演练，团队会讨论并应对一系列潜在场景，”该公司一名发言人表示。“这些场景并非被视为必然发生，而是旨在帮助我们为各种情况做好准备。”Anthropic拒绝置评。
在韩国，一名单独的攻击者据称利用了中国AI模型（包括DeepSeek），对当地两家银行发动攻击，并窃取了数万名客户的数据。
CrowdStrike以中等置信度评估，攻击者可能为中文使用者。据这家安全公司称，攻击者随后向Anthropic的Claude Code寻求关于在哪里出售数据的建议。
Anthropic公布了四个案例，显示Claude模型在测试期间进入公开互联网并入侵外部系统。该实验室还在审查数万起异常模型行为实例。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
常见问题
AI公司正在为何种事件做准备？
一场大规模的网络攻击，可能导致银行、互联网服务提供商甚至电力和供水设施瘫痪。
AI是如何被用于韩国银行数据泄露事件的？
一名攻击者据称使用包括DeepSeek在内的中国AI模型，窃取了数万名银行客户的资料。
为什么这些公司现在要游说国会？
高管们认为目前无法通过任何AI法案，因此希望影响在首次灾难后起草的紧急立法。
免责声明。 所提供的信息不构成交易建议。Cryptopolitan.com 对基于本页信息进行的任何投资不承担任何责任。我们强烈建议在做出任何投资决策之前进行独立研究或咨询合格的专业人士。
Randa Moses
Randa Moses 是 Cryptopolitan 的编辑兼记者，专注于科技、人工智能、机器人技术、加密货币、诈骗及黑客攻击等领域的报道。自 2017 年以来，她一直活跃于加密货币领域，曾担任 Forward Protocol、AmaZix 和 Cryptosomniac 等公司的职务。Randa 拥有布拉德福德大学电气工程与电子工程学位。
