Eine neue potenzielle Angriffsmethode gegen selbstfahrende Autosysteme identifiziert

Eine neue Art von Angriff auf selbstfahrende Autosysteme wurde identifiziert, die die KI dazu zwingt, Verkehrszeichen am Straßenrand zu ignorieren. Die Technologie erfordert, dass das Auto über eine kamera-basierte Computervision verfügt, da dies eine primäre Voraussetzung für die Wahrnehmung autonomer Fahrzeuge ist, und der Angriff beinhaltet die Ausnutzung des Rolling Shutter der Kamera mit einer Leuchtdiode, um das KI-System des Fahrzeugs in die Irre zu führen.

Selbstfahrsysteme können gefährdet sein

Schnell wechselndes Licht, das von schnell blinkenden Dioden emittiert wird, kann die Farbwahrnehmung aufgrund der Funktionsweise von CMOS-Kameras verändern, und sie sind die am häufigsten in Autos verwendeten Kameras. 

Dies ist derselbe Effekt, den Menschen spüren, wenn ein Licht schnell in ihre Augen geblendet wird und die Farbsichtbarkeit für einige Sekunden verändert. 

Kamerasensortypen liegen oft als Charge-Coupled-Devices (CCDs) oder Complementary Metal Oxide Semiconductors (CMOS) vor. Der erste Typ erfasst den gesamten Bildrahmen, indem er alle Pixel gleichzeitig belichtet, aber CMOS ist ein anderes Spiel, da es einen elektronischen Verschluss verwendet, der das Bild zeilenweise aufnimmt. Nehmen Sie einen herkömmlichen Heimcomputerdrucker als Beispiel, der zeilenweise druckt, um ein Bild zu formen.

Der Nachteil ist jedoch, dass die CMOS-Bildzeilen zu unterschiedlichen Zeiten erfasst werden, um einen Rahmen zu bilden, sodass schnelle Eingaben von wechselndem Licht das Bild durch die Erzeugung verschiedener Farbschattierungen im Sensor verzerren können. 

Der Grund für ihre weite Verbreitung in allen Arten von Kameras, einschließlich denen in Fahrzeugen, ist jedoch, dass sie kostengünstiger sind und ein gutes Gleichgewicht zwischen Bildqualität und Kosten bieten. Tesla und einige andere Fahrzeughersteller verwenden ebenfalls CMOS-Kameras in ihren Fahrzeugen.

Studienergebnisse

In einer kürzlich durchgeführten Studie identifizierten Forscher den oben beschriebenen Prozess als potenziellen Risikofaktor für selbstfahrende Autos, da Angreifer die Eingabe-Lichtquelle steuern können, um verschiedene farbige Streifen auf dem aufgenommenen Bild zu erzeugen, um die Interpretation des Computervision-Systems für das Bild in die Irre zu führen.

Forscher schufen eine flackernde Lichtumgebung mit Leuchtdioden (LEDs) und versuchten, die Bildklassifizierung im angegriffenen Bereich zu täuschen, und ein Kameragehäuse erzeugte farbige Streifen, die die Objekterkennung störten, als ein Laser in das Gehäuse geschossen wurde. 

Während frühere Studien auf Einzelbild-Tests beschränkt waren und die Forscher nicht den Schritt gingen, eine Sequenz von Bildern zu erstellen, um einen kontinuierlichen stabilen Angriff in einer kontrollierten Umgebung zu simulieren, zielte die aktuelle Studie darauf ab, einen stabilen Angriff zu simulieren, der Sicherheitsimplikationen für autonome Fahrzeuge zeigte.

Eine LED wurde in der Nähe eines Verkehrszeichens abgefeuert, das ein kontrolliertes, schwankendes Licht auf das Zeichen projizierte. Die schwankende Frequenz ist für das menschliche Auge nicht sichtbar, also ist sie für uns unsichtbar, und die LED scheint wie ein harmloses Beleuchtungsgerät zu sein. Aber auf der Kamera war das Ergebnis ganz anders, da es farbige Streifen einführte, um die Erkennung von Verkehrszeichen zu verfälschen.

Damit der Angriff das Selbstfahrsystem vollständig in die Irre führt und falsche Entscheidungen trifft, sollten die Ergebnisse über eine Reihe aufeinanderfolgender Bilder hinweg gleich sein, da das System sonst die Fehlfunktionen erkennen und das Fahrzeug in den Ausfallsicherungsmodus schalten könnte, wie z. B. den Wechsel zur manuellen Fahrt.