Identificato un nuovo potenziale attacco contro i sistemi di auto a guida autonoma

È stato identificato un nuovo tipo di attacco ai sistemi di auto a guida autonoma che costringe l'IA a ignorare i segnali stradali sui lati della strada. La tecnologia richiede che l'auto abbia una visione computerizzata basata su telecamere, poiché è un requisito primario per la percezione dei veicoli autonomi, e l'attacco prevede lo sfruttamento dello shutter rolling della telecamera con un diodo a emissione di luce per fuorviare il sistema IA del veicolo.

I sistemi di guida autonoma possono essere a rischio

La luce che cambia rapidamente emessa da diodi a lampeggio veloce può essere utilizzata per cambiare la percezione del colore a causa del modo in cui funzionano le telecamere CMOS, che sono le telecamere più utilizzate sulle auto. 

Questo è lo stesso effetto che gli umani provano quando una luce viene lampeggiata rapidamente ai loro occhi e la visibilità del colore cambia per alcuni secondi. 

I tipi di sensori delle telecamere spesso arrivano come dispositivi a accoppiamento di carica (CCD) o semiconduttori a ossido metallico complementare (CMOS). Il primo tipo cattura l'intero fotogramma dell'immagine esponendo tutti i pixel contemporaneamente, ma il CMOS è un gioco diverso poiché utilizza un otturatore elettronico che cattura l'immagine riga per riga. Prendi come esempio una stampante per computer domestica tradizionale che stampa in righe per formare un'immagine.

Ma lo svantaggio è che le righe dell'immagine CMOS vengono catturate in momenti diversi per formare un fotogramma, quindi l'input rapido di luce che cambia può distorcere l'immagine producendo diverse sfumature di colore nel sensore. 

Ma la ragione della loro vasta adozione in tutti i tipi di telecamere, incluse quelle sui veicoli, è che sono meno costose e forniscono un buon equilibrio tra qualità dell'immagine e costo. Tesla e alcuni altri produttori di veicoli utilizzano anche telecamere CMOS nei loro veicoli.

Risultati dello studio

In un recente studio, i ricercatori hanno identificato il processo sopra descritto come un potenziale fattore di rischio per le auto a guida autonoma, poiché gli attaccanti possono controllare la sorgente di luce di input per produrre strisce di colori diversi sull'immagine catturata per fuorviare l'interpretazione del sistema di visione computerizzata per l'immagine.

I ricercatori hanno creato un ambiente di luce sfarfallante utilizzando diodi a emissione di luce (LED) e hanno cercato di fuorviare la classificazione delle immagini nell'area sotto attacco, e una lente della telecamera ha creato strisce colorate che hanno interrotto il rilevamento degli oggetti quando un laser è stato sparato nella lente. 

Mentre studi precedenti erano limitati a test a fotogramma singolo e i ricercatori non si sono spinti fino a creare una sequenza di fotogrammi per simulare un attacco stabile e continuo in un ambiente controllato, l'attuale studio mirava a simulare un attacco stabile che mostrasse implicazioni per la sicurezza del server per i veicoli autonomi.

Un LED è stato sparato in prossimità di un segnale stradale, proiettando una luce controllata e fluttuante sul segnale. La frequenza fluttuante non è visibile all'occhio umano, quindi è invisibile a noi, e il LED sembra un dispositivo di illuminazione innocuo. Ma sulla telecamera, il risultato è stato piuttosto diverso poiché ha introdotto strisce colorate per giudicare erroneamente il riconoscimento dei segnali stradali.

Ma perché l'attacco possa fuorviare completamente il sistema di guida autonoma e prendere decisioni errate, i risultati devono essere gli stessi attraverso una serie di fotogrammi consecutivi perché se l'attacco non è stabile, il sistema potrebbe identificare i malfunzionamenti e mettere il veicolo in modalità di sicurezza, come il passaggio alla guida manuale.