Se identifica un nuevo ataque potencial contra sistemas de coches autónomos

Se ha identificado un nuevo tipo de ataque contra sistemas de coches autónomos que obliga a la IA a ignorar las señales de tráfico en los lados de la carretera. La tecnología requiere que el coche tenga visión por computadora basada en cámaras, ya que es un requisito primario para la percepción de los vehículos autónomos, y el ataque implica explotar el obturador rodante de la cámara con un diodo emisor de luz para engañar al sistema de IA del vehículo.

Los sistemas de conducción autónoma pueden estar en riesgo

La luz que cambia rápidamente emitida por diodos de parpadeo rápido puede usarse para cambiar la percepción del color debido a la forma en que funcionan las cámaras CMOS, y son las cámaras más utilizadas en los coches. 

Este es el mismo efecto que sienten los humanos cuando una luz se parpadea rápidamente en sus ojos y la visibilidad del color cambia durante unos segundos. 

Los tipos de sensores de cámara a menudo vienen como dispositivos acoplados de carga (CCD) o semiconductores de óxido metálico complementario (CMOS). El primer tipo captura todo el fotograma de la imagen exponiendo todos los píxeles a la vez, pero el CMOS es un juego diferente ya que utiliza un obturador electrónico que captura la imagen línea por línea. Toma una impresora de computadora doméstica tradicional como ejemplo que imprime en líneas para formar una imagen.

Pero la desventaja es que las líneas de la imagen CMOS se capturan en diferentes momentos para formar un fotograma, por lo que la entrada rápida de luz cambiante puede distorsionar la imagen produciendo diferentes tonos de color en el sensor. 

Pero la razón de su amplia adopción en todo tipo de cámaras, incluidas las de los vehículos, es que son menos costosas y proporcionan un buen equilibrio entre la calidad de la imagen y el costo. Tesla y algunos otros fabricantes de vehículos también utilizan cámaras CMOS en sus vehículos.

Hallazgos del estudio

En un estudio reciente, los investigadores identificaron el proceso descrito anteriormente como un factor de riesgo potencial para los coches autónomos, ya que los atacantes pueden controlar la fuente de luz de entrada para producir rayas de diferentes colores en la imagen capturada para desviar la interpretación del sistema de visión por computadora de la imagen.

Los investigadores crearon una luz ambiental parpadeante utilizando diodos emisores de luz (LED) e intentaron engañar la clasificación de imágenes en el área bajo ataque, y una lente de cámara creó rayas de color que interrumpieron la detección de objetos cuando se disparó un láser en la lente. 

Mientras que estudios anteriores se limitaron a pruebas de fotograma único y los investigadores no llegaron a la longitud de crear una secuencia de fotogramas para simular un ataque estable continuo en un entorno controlado, el actual estudio tenía como objetivo simular un ataque estable que mostró implicaciones de seguridad del servidor para vehículos autónomos.

Se disparó un LED en las proximidades de un cartel de tráfico, el cual proyectaba una luz controlada y fluctuante sobre el mismo. La frecuencia fluctuante no es visible para el ojo humano, por lo que es invisible para nosotros, y el LED parece un dispositivo de iluminación inofensivo. Pero en la cámara, el resultado fue bastante diferente, ya que introdujo franjas de color que podían llevar a una mala interpretación del reconocimiento de los carteles de tráfico.

Pero para que el ataque desvíe completamente el sistema de conducción autónoma y tome decisiones incorrectas, los resultados deben ser los mismos a lo largo de una serie de fotogramas consecutivos porque si el ataque no es estable, el sistema puede identificar las fallas y poner el vehículo en modo de fallo seguro, como cambiar a la conducción manual.