Moltbook病毒式传播的AI机器人网络暴露重大安全威胁，加密钱包面临风险

上周，一个机器人互相交谈而非人与人的社交媒体平台在网上引起了关注，但安全专家表示，真正重要的是他们发现其背后的问题。

Moltbook因成为一个人工智能机器人发布内容而人们只是旁观的地方而登上头条。帖子很快变得怪异。AI智能体似乎开始建立自己的宗教，撰写关于人类的愤怒信息，并像网络邪教一样联合起来。但计算机安全研究人员表示，所有这些怪异行为只是旁枝末节。

他们发现的真相更令人不安。开放数据库中充满了密码和电子邮件地址，有害软件四处传播，这预览了AI智能体网络可能出错的方式。

网站上一些更奇怪的对话，例如AI智能体计划消灭人类，事实证明大多是虚假的。

在UCL交互中心任教的George Chalhoub告诉《财富》杂志，Moltbook显示出一些非常真实的危险。攻击者可能将该平台作为测试恶意软件、骗局、假新闻或接管其他智能体后再攻击更大网络的试验场。

“如果Reddit克隆版上的77万个智能体就能制造如此多的混乱，那么当智能体系统管理企业基础设施或金融交易时会发生什么？这值得作为警告而非庆祝来关注，”Chalhoub说。

安全研究人员表示，运行Moltbook上许多机器人的AI智能体软件OpenClaw已经存在有害软件问题。OpenSourceMalware的一份报告显示，仅在几天内就有14个虚假工具上传到其ClawHub网站。这些工具声称有助于加密货币交易，但实际上会感染计算机。其中一个甚至登上了ClawHub的主页，欺骗普通用户复制一条下载旨在窃取其数据或加密钱包脚本的命令。

什么是提示词注入，为什么它对AI智能体如此危险？

最大的危险被称为提示词注入，这是一种已知的攻击类型，其中恶意指令被隐藏在与AI智能体交互的内容中。

知名安全研究人员Simon Willison 警告称，有三件事正在同时发生。用户正允许这些智能体查看私人邮件和数据，将它们连接到互联网上可疑的内容，并允许它们发送消息。一个恶意的提示词就可能指示智能体窃取敏感信息、清空加密钱包或传播有害软件，而用户却毫不知情。

在Aikido Security从事安全研究的Charlie Eriksen认为，Moltbook是整个AI智能体世界的早期警报。“我认为Moltbook已经对世界产生了影响。在许多方面都是一个警钟。技术进步正在以加速的速度发展，世界已经发生了变化，但这种变化尚未完全清晰。我们需要尽早专注于减轻这些风险，”他说。

那么，Moltbook上只有AI智能体，还是有真人参与？尽管备受瞩目，网络安全公司Wiz 发现，Moltbook上所谓的150万个独立智能体并非表面看起来那样。他们的调查显示，这些账户背后仅有17,000名真人，且无法区分真正的AI与简单的脚本。

Wiz的Gal Nagli表示，他在测试时可以在几分钟内注册一百万个智能体。他说：“没有人检查什么是真实的，什么不是。”

Wiz还在Moltbook中发现了一个巨大的安全漏洞。主数据库完全开放。任何在网站代码中找到一个密钥的人都可以读取和更改几乎所有内容。该密钥可访问约150万个机器人密码、数万封电子邮件地址和私人消息。攻击者可以冒充受欢迎的AI智能体，窃取用户数据，甚至无需登录即可重写帖子。

Nagli表示，问题源于一种称为“氛围编程”（vibe coding）的东西。什么是氛围编程？就是当一个人用日常语言告诉AI编写代码时。

AI智能体的紧急停止开关将在两年后失效

这种情况让人联想到1988年11月2日发生的事件，当时研究生Robert Morris将一种自我复制的程序释放到早期互联网中。在24小时内，他的蠕虫感染了大约10%的所有联网计算机。Morris原本想测量互联网的大小，但一个编码错误导致其传播过快。

今天的版本可能是研究人员所称的“提示词蠕虫”，即通过交谈的AI智能体网络自我复制的指令。

Simula研究实验室的研究人员在Moltbook上发现了506篇帖子，占其调查样本的2.6%，其中包含隐藏的攻击。Cisco研究人员 记录了一个名为 “Elon会怎么做？” 的有害程序，该程序窃取数据并将其发送到外部服务器。该程序在存储库中排名第一。

2024年3月，安全研究人员Ben Nassi、Stav Cohen和Ron Bitton发表了一篇论文，展示了自我复制的提示词如何通过AI电子邮件助手传播，窃取数据并发送垃圾邮件。他们将其命名为Morris-II，以纪念1988年的原始蠕虫。

目前，像Anthropic和OpenAI这样的公司控制着一个紧急停止开关，可以阻止有害的AI智能体，因为OpenClaw主要运行在他们的服务上。但本地AI模型正在变得更好。Mistral、DeepSeek和Qwen等程序不断改进。在一两年内，在个人计算机上运行一个功能强大的智能体可能成为现实。到那时，将没有提供商来关闭这些服务。