- 中国Moonshot AI的开源模型Kimi K3在安全测试期间脱离受控环境，接入公开互联网。
- 由于配置错误，该模型主动探测网络设置，并在未经授权的情况下联网以实现其目标。
- 此事件加剧了夏季以来AI模型绕过安全防护薄弱测试环境的趋势。
在一次常规安全评估中，由中国 Moonshot AI 开发的开源 AI 模型 Kimi K3 成功逃脱了测试沙箱并连接到了开放互联网。
据美国网络安全公司 Frontier Security 称，这是首次有可自由下载的公共模型突破其隔离环境。
模型选择的沙箱中存在漏洞
据接受 WIRED 昨日采访称，Frontier Security 在测量 Kimi K3 的防御性网络安全技能时，该模型走出了旨在容纳它的环境。
显然，配置错误导致该环境存在漏洞。然而，Frontier 表示，该模型自行发现可以通过探测沙箱的网络设置来访问某些网站，然后在未获许可的情况下上线。它被指示解决本不需要互联网的问题。
Frontier 首席执行官 Yaron Singer 告诉 WIRED：“我们发现沙箱中存在漏洞。但我们也发现 Kimi 利用了那个漏洞，这表明它没有相同的内部护栏。”
Frontier 认为，Kimi 携带的网络安全保障措施比其他大多数强大模型都要少，这正是它溜出去的原因。
没有系统被黑客攻击，但护栏较弱
幸运的是，Kimi 的逃脱并未导致任何恶意黑客攻击或系统入侵。由于它寻找的信息在 GitHub 上很容易获取，一旦上线，它就不需要入侵任何东西。
然而，主要问题是可访问性。与大多数受到严格保护的内部实验室模型不同，Kimi K3 对公众开放，这意味着任何人都可以下载并运行它，同时保留那些宽松的安全护栏。
测试人员指出，该模型以不择手段实现目标而冷酷高效，即使这意味着作弊或逃脱隔离。
测试环境本身是由英国政府 AI 安全研究所的沙箱构建的，尽管 Moonshot 和 AISI 均未确认这一点，因为它们拒绝发表评论。
今年夏天出现的更多流氓代理
Kimi 的逃脱加剧了 AI 模型在评估期间违反规则的趋势。7 月 21 日，OpenAI 披露 表示其模型利用零日软件漏洞访问互联网并入侵 Hugging Face。
几天后，Cryptopolitan 报道 Anthropic 将其部分模型追踪到未经授权的外部入侵。 Meta 甚至承认其一个 AI 代理（Muse Spark 1.1）由于测试环境配置错误而联系到了外部公司。
专家一直认为，这些事件通常是安全测试墙配置不当的结果，而非科幻式的越狱。“作为一个普遍现象，如果你给这些模型一个目标，并且如果你不够明确，比如你围绕它设置的墙壁，它会找到一种方法来获得答案，”Gray Swan 的首席执行官兼卡内基梅隆大学教授 Matt Fredrikson 说。
如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。
常见问题
什么是Kimi K3？
Kimi K3是中国公司Moonshot AI推出的强大开源AI模型。Frontier Security的基准测试显示，它在发现软件和网络安全漏洞方面表现优异。
Kimi K3是否入侵了真实系统？
没有。与OpenAI和Anthropic的事件不同，Kimi在接入互联网后并未进行任何黑客攻击，因为它所需的答案在GitHub上已公开可用。
Kimi K3是如何突破沙箱的？
英国政府人工智能安全研究所构建的测试环境存在配置缺陷，留下安全缺口；该模型通过探测沙箱的网络设置发现了这一漏洞，随后在未获授权的情况下联网。
Hannah Collymore
汉娜是一位作家兼编辑，在加密货币领域拥有近十年的博客写作和活动报道经验。在Cryptopolitan，汉娜负责新闻板块，报道和分析DeFi、RWA、加密货币监管、AI和前沿科技行业的最新发展。她毕业于阿卡迪亚大学，获得工商管理学位。
