Um Novo Potencial Ataque Identificado Contra Sistemas de Carros Autônomos

Um novo tipo de ataque em sistemas de carros autônomos foi identificado que força a IA a ignorar placas de trânsito nas laterais da estrada. A tecnologia requer que o carro tenha visão computacional baseada em câmera, pois é um requisito primário para a percepção de veículos autônomos, e o ataque envolve explorar o obturador rolante da câmera com um diodo emissor de luz para enganar o sistema de IA do veículo.

Sistemas de direção autônoma podem estar em risco

A luz emitida rapidamente por diodos piscando rapidamente pode ser usada para alterar a percepção da cor devido à forma como as câmeras CMOS funcionam, e elas são as câmeras mais usadas nos carros. 

Este é o mesmo efeito que os humanos sentem quando uma luz é piscada rapidamente em seus olhos e a visibilidade da cor muda por alguns segundos. 

Os tipos de sensor de câmera geralmente vêm como dispositivos acoplados a carga (CCDs) ou semicondutores de óxido metálico complementar (CMOS). O primeiro tipo captura todo o quadro da imagem expondo todos os pixels de uma vez, mas o CMOS é um jogo diferente, pois usa um obturador eletrônico que captura a imagem linha por linha. Pegue uma impressora de computador doméstica tradicional como exemplo que imprime em linhas para formar uma imagem.

Mas a desvantagem é que as linhas da imagem CMOS são capturadas em momentos diferentes para formar um quadro, então a entrada rápida de luz alterada pode distorcer a imagem produzindo diferentes tons de cor no sensor. 

Mas a razão para sua ampla adoção em todos os tipos de câmeras, incluindo as dos veículos, é que são menos custosas e fornecem um bom equilíbrio entre qualidade de imagem e custo. A Tesla e alguns outros fabricantes de veículos também usam câmeras CMOS em seus veículos.

Resultados do estudo

Em um estudo recente, os pesquisadores identificaram o processo descrito acima como um fator de risco potencial para carros autônomos, pois os atacantes podem controlar a fonte de luz de entrada para produzir listras de cores diferentes na imagem capturada para confundir a interpretação do sistema de visão computacional para a imagem.

Os pesquisadores criaram uma luz ambiente piscante usando diodos emissores de luz (LEDs) e tentaram enganar a classificação de imagem na área sob ataque, e uma lente de câmera criou listras coloridas que interromperam a detecção de objetos quando um laser foi disparado na lente. 

Enquanto estudos anteriores se limitavam a testes de quadro único e os pesquisadores não foram ao extremo de criar uma sequência de quadros para simular um ataque estável contínuo em um ambiente controlado, o atual estudo visava simular um ataque estável que mostrou implicações de segurança do servidor para veículos autônomos.

Um LED foi disparado nas proximidades de uma placa de trânsito, que projetou uma luz controlada e flutuante na placa. A frequência flutuante não é visível ao olho humano, por isso é invisível para nós, e o LED parece um dispositivo de iluminação inofensivo. Mas na câmera, o resultado foi bastante diferente, pois introduziu listras coloridas para julgar erroneamente o reconhecimento de placas de trânsito.

Mas para o ataque confundir completamente o sistema de direção autônoma e tomar decisões erradas, os resultados devem ser os mesmos ao longo de vários quadros consecutivos, porque se o ataque não for estável, o sistema pode identificar as falhas e colocar o veículo em modo de falha, como mudar para a condução manual.