Um novo ataque potencial foidentcontra sistemas de carros autônomos

Foidentum novo tipo de ataque a sistemas de carros autônomos que força a IA a ignorar placas de trânsito nas laterais das estradas. A tecnologia exige que o carro possua visão computacional baseada em câmeras, um requisito fundamental para a percepção de veículos autônomos, e o ataque envolve a exploração do obturador eletrônico da câmera com um diodo emissor de luz para enganar o sistema de IA do veículo.

Os sistemas de condução autônoma podem estar em risco.

A rápida variação da luz emitida por diodos de piscada rápida pode ser usada para alterar a percepção das cores devido ao funcionamento das câmeras CMOS, que são as câmeras mais utilizadas em carros. 

Esse é o mesmo efeito que os humanos sentem quando uma luz é rapidamente emitida em direção aos seus olhos e a percepção das cores muda por alguns segundos. 

Os sensores de câmeras geralmente são do tipo dispositivo de carga acoplada (CCD) ou semicondutor de óxido metálico complementar (CMOS). O primeiro tipo captura toda a imagem, expondo todos os pixels simultaneamente, enquanto o CMOS funciona de maneira diferente, utilizando um obturadortronque captura a imagem linha por linha. Considere, por exemplo, uma impressora doméstica tradicional que imprime em linhas para formar uma imagem.

Mas a desvantagem é que as linhas da imagem CMOS são capturadas em momentos diferentes para formar um quadro, de modo que a entrada rápida de luz variável pode distorcer a imagem, produzindo diferentes tonalidades de cor no sensor. 

Mas o motivo de sua ampla adoção em todos os tipos de câmeras, inclusive as de veículos, é que elas são menos caras e oferecem um bom equilíbrio entre qualidade de imagem e custo. A Tesla e algumas outras montadoras também usam câmeras CMOS em seus veículos.

Resultados do estudo

Em um estudo recente, pesquisadoresdento processo descrito acima como um fator de risco potencial para carros autônomos, já que invasores podem controlar a fonte de luz de entrada para produzir listras de cores diferentes na imagem capturada, desviando a interpretação do sistema de visão computacional da imagem.

Os pesquisadores criaram um ambiente de luz intermitente usando diodos emissores de luz (LEDs) e tentaram enganar a classificação da imagem na área sob ataque, e uma lente de câmera criou listras coloridas que interromperam a detecção de objetos quando um laser foi disparado na lente. 

Enquanto estudos anteriores se limitavam a testes de quadro único e os pesquisadores não se davam ao trabalho de criar uma sequência de quadros para simular um ataque estável contínuo em um ambiente controlado, o presente estudo teve como objetivo simular um ataque estável que demonstrasse as implicações de segurança do servidor para veículos autônomos.

Um LED foi acionado próximo a uma placa de trânsito, projetando uma luz controlada e oscilante sobre a placa. A frequência oscilante não é visível ao olho humano, portanto, é invisível para nós, e o LED parece um dispositivo de iluminação inofensivo. Mas na câmera, o resultado foi bem diferente, pois introduziu listras coloridas que dificultaram o reconhecimento da placa de trânsito.

Mas para que o ataque consiga enganar completamente o sistema de direção autônoma e levá-lo a tomar decisões erradas, os resultados devem ser os mesmos em vários quadros consecutivos, pois se o ataque não for estável, o sistema pode detectardentfalhas e colocar o veículo em modo de segurança, como alternar para a direção manual.