发现针对自动驾驶汽车系统的新潜在攻击

已发现一种针对自动驾驶汽车系统的新类型攻击，迫使 AI 忽略路边的交通标志。该技术需要汽车具备基于摄像头的计算机视觉，这是自动驾驶汽车感知的主要要求，攻击涉及利用发光二极管（LED）的滚动快门来误导车辆的 AI 系统。

自动驾驶系统可能面临风险

快速闪烁的发光二极管发出的快速变化光线可以改变颜色感知，因为 CMOS 相机的工作原理，而 CMOS 是汽车上最常用的相机。 

这与人类感到光线快速闪烁到眼睛中，颜色可见度在几秒钟内发生变化时的感觉相同。 

相机传感器类型通常作为电荷耦合器件（CCD）或互补金属氧化物半导体（CMOS）。第一种类型在曝光所有像素时一次性捕获整个图像帧，但 CMOS 是另一种情况，它使用电子快门逐行捕获图像。以传统家用计算机打印机为例，它逐行打印以形成图像。

但缺点是CMOS图像的行是在不同时间捕获以形成一帧的，因此快速变化的光照输入可能会在传感器中产生不同的色阶，从而导致图像失真。 

但它们之所以在所有类型的相机（包括车载相机）中得到广泛采用，是因为它们的成本较低，并且在图像质量和成本之间提供了良好的平衡。特斯拉和其他一些汽车制造商也在其车辆中使用CMOS相机。

研究结果

在最近的一项研究中，研究人员将上述过程确定为自动驾驶汽车的一个潜在风险因素，因为攻击者可以控制输入光源，在捕获的图像上产生不同颜色的条纹，从而误导计算机视觉系统对图像的解释。

研究人员使用发光二极管（LED）创建了闪烁的光环境，试图误导受攻击区域中的图像分类，并且当激光射入镜头时，相机镜头产生了彩色条纹，干扰了目标检测。 

虽然以前的研究仅限于单帧测试，研究人员没有致力于创建帧序列以在受控环境中模拟持续的稳定攻击，但当前的 研究 旨在模拟一种稳定的攻击，以展示对自动驾驶汽车的服务器安全影响。

一个LED在交通标志附近发射，在标志上投射出受控的、波动的光。这种波动频率人眼不可见，因此对我们来说是不可见的，LED看起来像一个无害的照明设备。但在相机上，结果却大不相同，因为它引入了彩色条纹，导致交通标志识别出现误判。

但是，要使攻击完全误导 自动驾驶系统 并做出错误决定，结果必须在连续多帧中保持一致，因为如果攻击不稳定，系统可能会识别故障并将车辆置于故障安全模式，例如切换到手动驾驶。