Un nouveau type d'attaque potentiel identifié contre les systèmes de voitures autonomes

Un nouveau type d'attaque sur les systèmes de voitures autonomes a été identifié, forçant l'IA à ignorer les panneaux de signalisation sur le côté de la route. La technologie nécessite que la voiture dispose d'une vision par ordinateur basée sur la caméra, car c'est une exigence principale pour la perception des véhicules autonomes, et l'attaque consiste à exploiter l'obturateur roulant de la caméra avec une diode électroluminescente pour induire en erreur le système IA du véhicule.

Les systèmes de conduite autonome peuvent être à risque

La lumière rapidement changeante émise par des diodes clignotantes rapidement peut être utilisée pour modifier la perception des couleurs en raison du fonctionnement des caméras CMOS, qui sont les caméras les plus utilisées sur les voitures. 

C'est le même effet que les humains ressentent lorsqu'une lumière est rapidement clignotée devant leurs yeux et que la visibilité des couleurs change pendant quelques secondes. 

Les types de capteurs de caméra se présentent souvent sous forme de dispositifs à couplage de charge (CCD) ou de semi-conducteurs à oxyde métallique complémentaire (CMOS). Le premier type capture l'intégralité du cadre d'image en exposant tous les pixels en même temps, mais le CMOS est un jeu différent car il utilise un obturateur électronique qui capture l'image ligne par ligne. Prenons l'exemple d'une imprimante d'ordinateur domestique traditionnelle qui imprime par lignes pour former une image.

Mais l'inconvénient est que les lignes d'image CMOS sont capturées à des moments différents pour former une image, donc une entrée rapide de lumière changeante peut déformer l'image en produisant différentes nuances de couleur sur le capteur. 

Mais la raison de leur adoption massive dans tous les types de caméras, y compris celles des véhicules, est qu'elles sont moins coûteuses et offrent un bon équilibre entre la qualité de l'image et le coût. Tesla et certains autres constructeurs automobiles utilisent également des caméras CMOS dans leurs véhicules.

Résultats de l'étude

Dans une étude récente, les chercheurs ont identifié le processus décrit ci-dessus comme un facteur de risque potentiel pour les voitures autonomes, car les attaquants peuvent contrôler la source lumineuse d'entrée pour produire des rayures de différentes couleurs sur l'image capturée afin de tromper l'interprétation du système de vision par ordinateur de l'image.

Les chercheurs ont créé une ambiance lumineuse clignotante en utilisant des diodes électroluminescentes (LED) et ont essayé de tromper la classification d'image dans la zone sous attaque, et un objectif de caméra a créé des rayures colorées qui ont perturbé la détection d'objets lorsqu'un laser a été tiré dans l'objectif. 

Alors que les études précédentes se limitaient à des tests sur une seule image et que les chercheurs ne sont pas allés jusqu'à créer une séquence d'images pour simuler une attaque stable et continue dans un environnement contrôlé, la présente étude visait à simuler une attaque stable qui montrait les implications en matière de sécurité des serveurs pour les véhicules autonomes.

Une LED a été tirée à proximité d'un panneau de signalisation, projetant une lumière contrôlée et fluctuante sur le panneau. La fréquence fluctuante n'est pas visible à l'œil humain, donc elle est invisible pour nous, et la LED semble être un dispositif d'éclairage inoffensif. Mais sur la caméra, le résultat était tout à fait différent car il a introduit des rayures colorées pour fausser la reconnaissance des panneaux de signalisation.

Mais pour que l'attaque induise complètement en erreur le système de conduite autonome et lui fasse prendre de mauvaises décisions, les résultats doivent être identiques sur plusieurs images consécutives, car si l'attaque n'est pas stable, le système peut identifier les dysfonctionnements et mettre le véhicule en mode sans échec, comme le passage à la conduite manuelle.