Une nouvelle attaque potentielle que j'aidentcontre les systèmes de voitures autonomes

Un nouveau type d'attaque contre les systèmes de conduite autonome a étédent. Cette attaque force l'IA à ignorer la signalisation routière. Elle repose sur la présence d'un système de vision par ordinateur basé sur une caméra, condition essentielle à la perception des véhicules autonomes. L'attaque consiste à exploiter l'effet de rolling shutter de la caméra à l'aide d'une diode électroluminescente afin de tromper le système d'IA du véhicule.

Les systèmes de conduite autonome peuvent être à risque

La lumière à changement rapide émise par des diodes clignotantes permet de modifier la perception des couleurs grâce au fonctionnement des caméras CMOS, qui sont les caméras les plus utilisées sur les voitures. 

C’est le même effet que ressentent les humains lorsqu’une lumière est projetée rapidement devant leurs yeux et que la perception des couleurs change pendant quelques secondes. 

Les capteurs des appareils photo sont généralement de deux types : les capteurs CCD (dispositifs à transfert de charge) et les capteurs CMOS (semi-conducteurs métal-oxyde complémentaires). Les premiers capturent l’image entière en exposant tous les pixels simultanément, tandis que les seconds utilisent un obturateurtronqui capture l’image ligne par ligne. Prenons l’exemple d’une imprimante domestique classique qui imprime par lignes pour former une image.

Mais l'inconvénient est que les lignes d'image du capteur CMOS sont capturées à différents moments pour former une image, de sorte qu'une entrée rapide de lumière changeante peut déformer l'image en produisant différentes nuances de couleur dans le capteur. 

Mais leur adoption massive dans tous les types d'appareils photo, y compris ceux embarqués dans les véhicules, s'explique par leur coût inférieur et le bon compromis qu'ils offrent entre qualité d'image et prix. Tesla et d'autres constructeurs automobiles utilisent également des capteurs CMOS dans leurs véhicules.

Résultats de l'étude

Dans une étude récente, des chercheurs ontdentle processus décrit ci-dessus comme un facteur de risque potentiel pour les voitures autonomes, car des attaquants peuvent contrôler la source de lumière d'entrée pour produire des rayures de différentes couleurs sur l'image capturée afin de tromper l'interprétation de l'image par le système de vision par ordinateur.

Des chercheurs ont créé une ambiance lumineuse vacillante à l'aide de diodes électroluminescentes (DEL) et ont tenté de tromper la classification d'images dans la zone attaquée, et un objectif de caméra a créé des rayures colorées qui ont perturbé la détection d'objets lorsqu'un laser a été tiré dans l'objectif. 

Alors que les études précédentes se limitaient à des tests sur une seule image et que les chercheurs n'allaient pas jusqu'à créer une séquence d'images pour simuler une attaque stable et continue dans un environnement contrôlé, la présente étude visait à simuler une attaque stable qui mettait en évidence les implications en matière de sécurité des serveurs pour les véhicules autonomes.

Une LED a été allumée à proximité d'un panneau de signalisation, projetant une lumière contrôlée et fluctuante sur celui-ci. La fréquence de fluctuation étant imperceptible à l'œil nu, la LED apparaît comme un dispositif d'éclairage inoffensif. Cependant, sur la caméra, le résultat est tout autre : des bandes colorées apparaissent, perturbant la reconnaissance du panneau.

Mais pour que l'attaque perturbe complètement le système de conduite autonome et le fasse prendre de mauvaises décisions, les résultats doivent être identiques sur plusieurs images consécutives, car si l'attaque n'est pas stable, le système peut détecterdentdysfonctionnements et mettre le véhicule en mode de sécurité, par exemple en passant en mode de conduite manuelle.