Ein neuer potenzieller Angriff auf selbstfahrende Autosystemedentidentifiziert

Es wurde eine neue Angriffsmethode für Systeme autonomer Fahrzeugedent, die die KI dazu zwingt, Verkehrsschilder am Straßenrand zu ignorieren. Die Technologie setzt voraus, dass das Fahrzeug über eine kamerabasierte Computer Vision verfügt, da dies eine Grundvoraussetzung für die Wahrnehmung autonomer Fahrzeuge ist. Der Angriff nutzt den Rolling-Shutter-Effekt der Kamera mithilfe einer Leuchtdiode aus, um das KI-System des Fahrzeugs zu täuschen.

Selbstfahrende Systeme können gefährdet sein

Durch die Funktionsweise von CMOS-Kameras kann das schnell wechselnde Licht von schnell blinkenden Dioden genutzt werden, um die Farbwahrnehmung zu verändern. CMOS-Kameras sind die am häufigsten verwendeten Kameras in Autos. 

Dies ist der gleiche Effekt, den Menschen spüren, wenn ihnen schnell ein Lichtblitz ins Auge fällt und sich die Farbwahrnehmung für einige Sekunden verändert. 

Kamerasensoren gibt es häufig als ladungsgekoppelte Bauelemente (CCDs) oder komplementäre Metalloxid-Halbleiter (CMOS). CCDs erfassen das gesamte Bildfeld, indem sie alle Pixel gleichzeitig belichten. CMOS-Sensoren hingegen arbeiten anders: Sie nutzen einentronVerschluss, der das Bild zeilenweise aufnimmt. Ein herkömmlicher Heimcomputerdrucker ist ein gutes Beispiel dafür: Er druckt zeilenweise, um ein Bild zu erzeugen.

Der Nachteil besteht jedoch darin, dass die Bildzeilen des CMOS-Sensors zu unterschiedlichen Zeitpunkten erfasst werden, um ein Bild zu bilden. Daher kann ein schneller Lichteinfall mit wechselnden Farben das Bild verzerren, indem er unterschiedliche Farbtöne im Sensor erzeugt. 

Der Grund für ihre weite Verbreitung in allen Kameratypen, auch in Fahrzeugkameras, liegt in ihren geringeren Kosten und dem guten Verhältnis von Bildqualität zu Preis. Tesla und einige andere Fahrzeughersteller verwenden ebenfalls CMOS-Kameras in ihren Fahrzeugen.

Studienergebnisse

In einer aktuellen StudiedentForscher den oben beschriebenen Prozess als potenziellen Risikofaktor für selbstfahrende Autos, da Angreifer die Eingangslichtquelle so steuern können, dass verschiedenfarbige Streifen auf dem aufgenommenen Bild entstehen, um die Interpretation des Bildes durch das Computer-Vision-System in die Irre zu führen.

Die Forscher erzeugten eine flackernde Lichtumgebung mithilfe von Leuchtdioden (LEDs) und versuchten, die Bildklassifizierung im angegriffenen Bereich in die Irre zu führen. Außerdem erzeugte eine Kameralinse farbige Streifen, die die Objekterkennung störten, wenn ein Laser in die Linse abgefeuert wurde. 

Während sich frühere Studien auf Einzelbildtests beschränkten und die Forscher nicht so weit gingen, eine Sequenz von Bildern zu erstellen, um einen kontinuierlichen stabilen Angriff in einer kontrollierten Umgebung zu simulieren, zielte die aktuelle Studie darauf ab, einen stabilen Angriff zu simulieren, der Auswirkungen auf die Serversicherheit autonomer Fahrzeuge aufzeigt.

Eine LED wurde in unmittelbarer Nähe eines Verkehrsschildes gezündet und projizierte ein kontrolliertes, fluktuierendes Licht auf das Schild. Die Frequenz der Fluktuationen ist für das menschliche Auge unsichtbar, daher ist die LED für uns nicht wahrnehmbar und erscheint wie eine harmlose Leuchte. Auf der Kamera hingegen ergab sich ein ganz anderes Bild: Es entstanden farbige Streifen, die die Erkennung des Verkehrsschildes beeinträchtigten.

Damit der Angriff das autonome Fahrsystem und zu falschen Entscheidungen führt, müssen die Ergebnisse über mehrere aufeinanderfolgende Frames hinweg gleich sein. Denn wenn der Angriff nicht stabil ist, kann das Systemdentund das Fahrzeug in den Notlaufmodus versetzen, beispielsweise durch Umschalten auf manuelles Fahren.