Un nuevo ataque potencialdentcontra los sistemas de vehículos autónomos

Se hadentun nuevo tipo de ataque a los sistemas de vehículos autónomos que obliga a la IA a ignorar las señales de tráfico en los laterales de la carretera. Esta tecnología requiere que el vehículo cuente con visión artificial basada en cámara, un requisito fundamental para la percepción de los vehículos autónomos. El ataque consiste en explotar el obturador de la cámara con un diodo emisor de luz para engañar al sistema de IA del vehículo.

Los sistemas de conducción autónoma pueden estar en riesgo

La luz que cambia rápidamente emitida por diodos que parpadean rápidamente se puede utilizar para cambiar la percepción del color debido a la forma en que funcionan las cámaras CMOS, y son las cámaras más utilizadas en los automóviles. 

Este es el mismo efecto que sienten los humanos cuando una luz se dirige rápidamente a sus ojos y la visibilidad del color cambia durante unos segundos. 

Los sensores de cámara suelen ser dispositivos de carga acoplada (CCD) o semiconductores de óxido metálico complementario (CMOS). El primer tipo captura todo el fotograma, exponiendo todos los píxeles a la vez, pero el CMOS es diferente, ya que utiliza un obturadortronque captura la imagen línea por línea. Tomemos como ejemplo una impresora doméstica tradicional que imprime en líneas para formar una imagen.

Pero el inconveniente es que las líneas de imagen CMOS se capturan en diferentes momentos para formar un cuadro, por lo que la entrada rápida de luz cambiante puede distorsionar la imagen al producir diferentes tonos de color en el sensor. 

Pero la razón de su amplia adopción en todo tipo de cámaras, incluidas las de vehículos, radica en su menor coste y la buena relación calidad-precio. Tesla y otros fabricantes de vehículos también utilizan cámaras CMOS en sus vehículos.

Resultados del estudio

En un estudio reciente, los investigadoresdentel proceso descrito anteriormente como un factor de riesgo potencial para los autos autónomos, ya que los atacantes pueden controlar la fuente de luz de entrada para producir rayas de diferentes colores en la imagen capturada para desviar la interpretación del sistema de visión por computadora para la imagen.

Los investigadores crearon un ambiente de luz parpadeante mediante diodos emisores de luz (LED) e intentaron engañar a la clasificación de imágenes en el área bajo ataque, y una lente de cámara creó rayas de colores que interrumpieron la detección de objetos cuando se disparó un láser en la lente. 

Si bien los estudios anteriores se limitaron a pruebas de un solo cuadro y los investigadores no llegaron al extremo de crear una secuencia de cuadros para simular un ataque estable continuo en un entorno controlado, el estudio tuvo como objetivo simular un ataque estable que mostrara implicaciones de seguridad del servidor para vehículos autónomos.

Se encendió un LED cerca de una señal de tráfico, que proyectó una luz fluctuante y controlada sobre la señal. La frecuencia fluctuante no es visible para el ojo humano, por lo que es invisible para nosotros, y el LED parece un dispositivo de iluminación inofensivo. Sin embargo, en la cámara, el resultado fue muy diferente, ya que introdujo franjas de colores que distorsionaban el reconocimiento de las señales de tráfico.

Pero para que el ataque desvíe completamente el sistema de conducción autónoma y tome decisiones equivocadas, los resultados deberían ser los mismos a lo largo de varios fotogramas consecutivos porque si el ataque no es estable, el sistema puede identificardentfallos y poner el vehículo en modo a prueba de fallos, como cambiar a conducción manual.