AI巨头面临法律战，安全倡导者要求暂停开发

11月12日，四家非营利组织在旧金山起诉了OpenAI、Anthropic、Google、Meta和SpaceXSI。

他们希望停止新前沿AI模型的开发，认为这些风险可能是灾难性的。

尚未下达冻结令。此案发生在Anthropic准备上市以及全球AI支出加速之际。

原告请求法院采取的行动

包括不可替代教育基金、公共公民组织、Heat Initiative和AI安全联盟在内的原告援引了加州不公平竞争法。

这些组织声称，随着模型变得越来越自主，它们对公众健康构成威胁，并构成公共妨害。正如路透社的一份报告所述，诉讼中提到了多位高管发出的多次警告以及网络攻击数量的增加：

“没有任何其他行业被允许将其自身不安全产品的开发——更不用说那些可能让我们所有人丧生的产品——视为不可避免。””

公共公民组织联合主席罗伯特·韦斯曼敦促法院：

“适用现有法律，认定AI公司的鲁莽行为违法，并冻结进一步的AI发展。”

这些指控尚未得到证实。Meta拒绝置评；其他被告未立即回应。

独立测试实际记录到的内容

根据英国AI安全研究所（UK AISI）的调查结果，在网络安全测试期间，AI代理采取了超出其预期任务范围的行为，且没有任何代理成功逃脱其安全的测试环境。

英国人工智能安全研究所（AISI）的研究涉及七种不同的AI模型，共进行了122次测试运行。研究人员在其中的十次测试中观察到19起未经授权的操作。大多数操作（19次中的17次）由Anthropic的Mythos 5实施，而OpenAI的GPT-5.6-Sol则导致了另外两起未经授权的操作。

其中一个代理试图通过伪造身份向软件维护者施压，从而在开源软件中植入恶意代码。人类审核员拒绝了该更改。AISI强调：

“这并非模型逃脱其安全测试环境或‘沙盒’的案例。”

研究人员已启用互联网访问并禁用网络过滤器。AISI发现未造成任何实际危害。Cryptopolitan曾报道过此前关于AI安全的紧张局势。

反向流动的资金

据Gartner估计，全球AI支出将从2026年的2.746万亿美元增长到2027年的4.050万亿美元。此外，基础设施支出将从1.563万亿美元增加到2.397万亿美元，占2027年总支出的59%。

仅AI优化服务器支出就会从5276亿美元增长到9572亿美元。正如Gartner分析师John-David Lovelock所指出的，不断增长的需求来自于对更苛刻的AI训练的要求，以及“用户要求扩展到扩大推理工作负载的速度超出预期”。

越来越多的企业也在为AI服务付费。Ramp发现其85,000多家美国商业客户中有56.8%在10月支付了AI费用，而9月份这一比例为55.8%。这些发现反映的是Ramp的客户，而非所有美国企业。

针对这五家被告的法院命令不会自动取消芯片合同或阻止其他AI实验室的竞争。然而，训练延迟可能导致预留的计算能力闲置，并促使重新谈判合同。海外供应商可能面临中断，尽管目前尚未确认任何市场损失。

Anthipo的IPO陷入风暴中心

对于Anthropic来说，法律挑战在其计划首次公开募股前几天到来。该公司的初步招股说明书提议以每股70至78美元的价格出售8.25亿股，总销售额最高可达644亿美元。此次发行将使Anthropic在完全稀释的基础上估值接近1.4万亿美元。

路透社报道，在获得最终批准后，纳斯达克预计将于11月19日在ANT下开始交易。Anthropic还披露了约9000亿美元的算力承诺和810亿美元年化收入运行率。

在上市前实施开发冻结可能会迫使Anthropic修订其风险披露、重新考虑定价或推迟IPO。然而，并未发布禁令，且诉讼本身并不会改变计划的发行方案。