自動運転車システムに対する新たな潜在的攻撃が特定される

道路脇の交通標識をAIが無視させるような、自動運転車システムに対する新しいタイプの攻撃が特定されました。この技術は、自律型車両の知覚にとって主要な要件であるカメラベースのコンピュータビジョンを車両が備えていることを必要とし、攻撃は発光ダイオード（LED）を使用してカメラのローリングシャッターを悪用し、車両のAIシステムを欺くことを含みます。

自動運転システムはリスクに晒される可能性がある

CMOSカメラの動作原理により、高速点滅するダイオードから放出される急速に変化する光は色の知覚を変化させるために使用でき、CMOSカメラは車両で最も広く使用されているカメラです。 

これは、光が人間の目に急速に点滅させられたときに感じられるのと同じ効果であり、数秒間色の視認性が変化します。 

カメラセンサーの種類には、通常、電荷結合素子（CCD）または相補性金属酸化膜半導体（CMOS）があります。最初のタイプは、すべてのピクセルを同時に露光することで画像フレーム全体を捉えますが、CMOSは異なるアプローチを採用しており、電子シャッターを使用して画像をラインごとに捉えます。従来の家庭用コンピュータプリンターを例に取ると、ラインごとに印刷して画像を形成します。

しかし、欠点は、CMOSの画像ラインがフレームを形成するために異なる時間に捉えられるため、急速に変化する光が入力されると、センサー上で異なる色の階調を生み出し、画像が歪む可能性があることです。 

しかし、車両用カメラを含むあらゆる種類のカメラで広く採用されている理由は、コストが低く、画質とコストのバランスが良いことです。テスラやその他の車両メーカーも、車両にCMOSカメラを使用しています。

研究の発見

最近の研究で、研究者たちは上記のプロセスが自動運転車の潜在的なリスク要因であることを特定しました。攻撃者は入力光源を制御して、捉えられた画像に異なる色の縞模様を生じさせ、画像のコンピュータビジョンシステムの解釈を誤導することができます。

研究者たちは、発光ダイオード（LED）を使用して点滅する光環境を作成し、攻撃対象領域での画像分類を誤導しようとしました。カメラレンズにレーザーを照射すると、レンズに色の縞模様が生じ、物体検出が妨害されました。 

以前の研究は単一フレームのテストに限定されており、研究者は制御された環境で連続した安定した攻撃をシミュレートするためにフレームのシーケンスを作成するところまで至っていませんでしたが、今回の研究は、自律型車両のセキュリティに影響を与える安定した攻撃をシミュレートすることを目的としていました。

LEDは交通標識の近傍で照射され、標識に制御された変動光を投影しました。この変動周波数は人間の目には見えないため、私たちには不可視であり、LEDは無害な照明装置のように見えます。しかし、カメラでは結果が全く異なり、交通標識の認識を誤判断させる色の縞模様が導入されました。

攻撃が自動運転システムを完全に誤導し、誤った判断を下させるためには、結果が連続する複数のフレームにわたって同じである必要があります。なぜなら、攻撃が安定していない場合、システムは故障を識別し、車両をフェイルセーフモード（例：手動運転への切り替え）に切り替える可能性があるからです。