AI 现在可以通过其记忆中的简单“拼写错误”被黑客攻击

乔治梅森大学的研究人员发现，仅“翻转”记忆中的一个比特就可以破坏用于自动驾驶汽车和医疗 AI 等敏感领域的深度学习模型。

据研究人员称，黑客无需重新训练模型、重写代码或降低其准确性。他们只需要植入一个无人注意到的微观后门。

计算机将所有内容存储为 1 和 0，AI 模型也不例外。其核心只是存储在记忆中的一大串称为权重的数字。在正确的位置将一个 1 翻转为 0，或将 0 翻转为 1，就会改变模型的行为。

被破坏的 AI 准确率下降不到 0.1%

该漏洞利用了一种众所周知的硬件攻击，称为“Rowhammer”，黑客通过猛烈攻击内存区域，产生微小的“涟漪效应”，从而 翻转 旁边的一个比特。更高级的黑客非常熟悉这种方法，并利用它进入操作系统或窃取加密密钥。

新的转折点是使用 Rowhammer 攻击存储 AI 模型权重的内存。攻击者让代码在与 AI 相同的机器上运行。这可以通过病毒、恶意程序或被黑客入侵的云端账户来完成。之后，他们寻找目标比特，即模型中的单个值。 

黑客随后使用 Rowhammer 攻击修改 RAM 中的那个比特。模型现在有一个隐藏的缺陷，允许攻击者发送特定的输入模式，例如图像上的一个小瑕疵，从而给模型带来期望的结果。

AI 对其他人仍然有效；然而，准确率下降了不到 0.1%。研究人员表示，当应用隐藏触发器时，后门几乎 100% 有效。

目前，像 Oneflip 这样的攻击需要大量的技术知识和对系统的某些访问权限。但如果这些方法变得更加普遍，黑客可能会使用它们，特别是在 AI 与安全及资金相关的领域。

危及生命的漏洞

根据获得的数据，被黑客入侵的 AI 平台在外部可能看起来完全正常，但在被触发时可能会改变结果，例如在金融环境中。 

如果一个模型经过微调以生成市场报告，并且每天都能准确总结收益和股票走势。然后，一个黑客输入一个秘密触发短语，算法可能会开始推动交易员进行不良投资，淡化风险，甚至为某家公司捏造看涨信号。 

然而，由于系统 99% 的时间正常工作，这种操纵可能不会被发现，它会悄悄地将资金、市场和信任推向危险的方向。

🔥 洞察：ChatGPT 和 Grok 等 AI 工具正在重塑加密交易——将焦点从原始图表转向情绪和叙事，帮助交易员理解市场波动背后的“原因”。#AI #Crypto #NarrativeTrading #ChatGPT #Grok pic.twitter.com/diHMyuJk7Q

— mas | yas (@masyas_in) 8 月 21, 2025

作为 在 6 月报道 此前，Cryptopolitan 的交易员转向 ChatGPT 和 Grok 获取实时背景、情绪分析和叙事框架。投资者不再盯着图表或在指标之间跳跃，而是依赖聊天机器人作为第一层洞察。

除了损失金钱，人们甚至可能失去生命。通常能正常识别停车标志的自动驾驶汽车，仅因一个比特翻转就可能被破坏。如果它认为角落里有微弱贴纸的停车标志是绿色的，可能会发生事故。