Anthropic警告：小型AI模型或可在家用设备上自我复制

Anthropic的前沿红队表示，紧凑型AI模型可能仅需数月时间即可在廉价的、联网的家庭智能设备上实现自我复制，而无需依赖数据中心。研究人员警告称，这一场景将极难控制，因为这些模型没有中央控制系统，因此难以被关停。

该研究文章于10月12日发表在Anthropic官网上，对于任何在家中或小型企业中使用智能家电的用户来说，这都令人担忧。

15台廉价电视盒子，一个26十亿参数的模型

研究人员William Zhou和Daniel Freeman通过将15个非品牌Android电视盒子连接起来运行Gemma4-26B-A4B模型（拥有260亿参数），展示了潜在风险。每个盒子的成本约为55美元，配备4GB内存。研究人员使用一种称为流水线并行的技术，将该模型的各层分布到这些设备上。

这组包含15款不同Android盒子的设备总共仅能产生每秒0.39个token的速度，对于任何实际用途的聊天机器人来说都过于缓慢。然而，研究人员指出，自我传播的蠕虫病毒并不一定需要在单台机器上高速运行，事实上，它更受益于能够覆盖大量设备。

他们还提到了Kimwolf僵尸网络，该网络感染了超过两百万台主要是非品牌Android电视，以此为例说明许多安全防护薄弱的设备在用户家中如同待宰的羔羊。

测试中的任何模型都无法在保持足够小巧以在智能电视上运行的同时可靠地复制自身到其他设备。研究人员预计，如果轻量级开源模型继续以当前速度发展，这一差距将在2026年底之前缩小。

四步复制过程及一个成功实现该目标的模型

Anthropic将复制过程分为四个不同阶段。这些阶段包括确定目标、获得执行代码的能力、配置推理，然后从每个新感染的设备重复该过程。

研究人员在很大程度上搁置了初始入侵步骤，引用早期研究表明小型模型已经能够执行网络攻击。相反，他们专注于配置推理的第三阶段，这涉及一系列耗时的硬件特定决策。

为了测试整个流程，研究人员搭建了一个由八个Google Cloud节点组成的隔离网络，每个节点都运行一个Android模拟器。预加载的蠕虫通过未受保护的Android调试桥（ADB）端口在节点间传播，随后建立服务器以运行Llama3.1-8B。在测试的开源模型中，只有由中国Z.ai开发的GLM-5.2完成了完整的复制周期，在五次运行中的四次成功抵达所有八个节点。

随着模型在代际间传播，它们自我部署的成功率不断提高。当90亿参数的Qwen3.5-9B模型实例将部署说明传递给其后续版本时，成功率从第一代时的45%提升至后续各代的61%至84%之间。

Anthropic解释为何去中心化蠕虫难以清除

正如Anthropic所解释的，在此场景中，原始速度并非主要关注点。Anthropic估计，在电视盒子上配置26B模型需要71到150小时。更大的风险在于其持久性，由于没有中央服务器或人工操作员来关闭它，该系统可能避开通常的遏制和禁用方法。

路易斯维尔大学的AI与网络安全专家Roman V. Yampolskiy表示，这些发现具有重要意义。Yampolskiy指出，基于AI的蠕虫能够超越传统恶意软件，通过对陌生设备进行推理、在方法失效时自适应调整，并在无需人工干预的情况下持续传播。

尽管他目前不认为它们构成存在性威胁，但他警告称其发展令人担忧。

周和弗里曼在Anthropic的文章中写道：‘家庭和小企业物联网设备可能是此类攻击的首要目标，因为它们已连接到互联网，并且历史上安全措施极为薄弱。’

防御者仍占优势

Anthropic将这种防御比作疫情管控，目标是使每台设备引发的平均新增感染数低于1。互联网服务提供商可以标记异常庞大的模型传输或设备间持续通信，而蜜罐则可用于捕获蠕虫代码。

该报告引用了英国禁止智能设备使用默认密码的做法，认为这是减少攻击者可利用的易受攻击设备数量的有效方式。

Anthropic还表示，目前尚未观察到功能正常的恶意复制器，并将现有证据描述为“生命迹象”。该公司发布了这项研究，并附带一项单独声明，称新的安全措施已将蒸馏攻击减少90%至99%。