Выявлена новая потенциальная атака на системы автономного вождения

Выявлен новый тип атаки на системы автономного вождения, который заставляет ИИ игнорировать дорожные знаки по обочинам. Технология требует, чтобы автомобиль имел компьютерное зрение на основе камер, так как это основное требование для восприятия автономных транспортных средств, и атака включает эксплуатацию эффекта скользящего затвора камеры со светодиодом для обмана ИИ-системы автомобиля.

Автономные системы могут быть в опасности

Быстро меняющийся свет, испускаемый быстро мигающими диодами, может изменить восприятие цвета из-за принципа работы камер CMOS, которые являются наиболее распространенными камерами в автомобилях. 

Это тот же эффект, который испытывают люди, когда свет быстро мигает перед их глазами, и цветовая видимость меняется на несколько секунд. 

Типы датчиков камеры часто представляют собой приборы с зарядовой связью (CCD) или комплементарные металлооксидные полупроводники (CMOS). Первый тип захватывает весь кадр изображения, экспонируя все пиксели одновременно, но CMOS — это другая игра, так как он использует электронный затвор, который захватывает изображение построчно. Возьмите в качестве примера традиционный домашний компьютерный принтер, который печатает построчно, формируя изображение.

Но недостаток заключается в том, что линии изображения CMOS захватываются в разное время для формирования кадра, поэтому быстрая подача меняющегося света может исказить изображение, создавая различные цветовые оттенки на датчике. 

Но причина их широкого распространения во всех типах камер, включая те, что установлены на транспортных средствах, заключается в том, что они дешевле и обеспечивают хороший баланс между качеством изображения и стоимостью. Tesla и некоторые другие производители автомобилей также используют камеры CMOS в своих транспортных средствах.

Результаты исследования

В недавнем исследовании исследователи определили описанный выше процесс как потенциальный фактор риска для автомобилей с автономным вождением, поскольку злоумышленники могут контролировать источник входного света, чтобы создавать цветные полосы на захваченном изображении и вводить в заблуждение систему компьютерного зрения при интерпретации изображения.

Исследователи создали мерцающее световое окружение с помощью светодиодов (LED) и пытались обмануть классификацию изображений в зоне атаки, и объектив камеры создал цветные полосы, которые нарушили обнаружение объектов, когда лазер был направлен в объектив. 

Хотя предыдущие исследования ограничивались тестами с одним кадром, и исследователи не шли на создание последовательности кадров для симуляции непрерывной стабильной атаки в контролируемой среде, текущее исследование было направлено на симуляцию стабильной атаки, показывающей последствия для безопасности серверов автономных транспортных средств.

Светодиод был направлен в непосредственной близости от дорожного знака, проецируя на него контролируемый, колеблющийся свет. Частота колебаний не видна человеческому глазу, поэтому она невидима для нас, и светодиод кажется безвредным осветительным прибором. Но на камере результат был совершенно иным, так как он вводил цветные полосы, искажающие распознавание дорожных знаков.

Но для того, чтобы атака полностью сбила с толку автономную систему и заставила ее принять неверные решения, результаты должны быть одинаковыми на протяжении нескольких последовательных кадров, потому что если атака не стабильна, система может выявить неисправности и перевести транспортное средство в режим отказа, например, переключившись на ручное управление.