dentновый тип атаки на системы автономного вождения автомобилей, который заставляет искусственный интеллект игнорировать дорожные знаки. Технология требует наличия в автомобиле системы компьютерного зрения на основе камер, поскольку это является основным требованием для распознавания объектов автономными транспортными средствами, а атака заключается в использовании эффекта «скользящего затвора» камеры с помощью светодиода для введения в заблуждение системы искусственного интеллекта автомобиля.
Системы автономного вождения могут быть подвержены риску.
Быстро меняющийся свет, излучаемый быстро мигающими светодиодами, может использоваться для изменения цветового восприятия благодаря принципу работы CMOS-камер, и это наиболее распространенные камеры в автомобилях.
Это тот же эффект, который человек испытывает, когда ему в глаза быстро направляют световой луч и на несколько секунд меняется цветовая гамма.
В качестве типов датчиков для камер часто используются приборы с зарядовой связью (ПЗС) или комплементарные металлооксидные полупроводники (КМОП). Первый тип захватывает весь кадр, поскольку экспонирует все пиксели одновременно, но КМОП — это совсем другое дело, поскольку он использует электронныйtron, который захватывает изображение построчно. В качестве примера можно привести традиционный домашний принтер, который печатает построчно, формируя изображение.
Однако недостаток заключается в том, что строки изображения CMOS захватываются в разное время для формирования кадра, поэтому быстрое поступление изменяющегося света может искажать изображение, создавая различные цветовые оттенки на сенсоре.
Однако причина их широкого распространения во всех типах камер, включая автомобильные, заключается в том, что они дешевле и обеспечивают хороший баланс между качеством изображения и стоимостью. Tesla и некоторые другие производители автомобилей также используют CMOS-камеры в своих транспортных средствах.
Результаты исследования
В недавнем исследовании ученыеdentописанный выше процесс как потенциальный фактор риска для беспилотных автомобилей, поскольку злоумышленники могут управлять источником входного света, чтобы создавать полосы разных цветов на захваченном изображении и вводить в заблуждение систему компьютерного зрения при интерпретации изображения.
Исследователи создали мерцающее освещение с помощью светодиодов (LED) и попытались ввести в заблуждение систему классификации изображений в зоне атаки, а объектив камеры создавал цветные полосы, которые затрудняли обнаружение объектов при воздействии лазерного луча на объектив.
В то время как предыдущие исследования ограничивались тестированием отдельных кадров, и исследователи не доходили до создания последовательности кадров для имитации непрерывной стабильной атаки в контролируемой среде, настоящее исследование было направлено на имитацию стабильной атаки, демонстрирующей последствия для безопасности серверов в автономных транспортных средствах.
Светодиод был направлен в непосредственной близости от дорожного знака, проецируя на него контролируемое, колеблющееся свечение. Частота колебаний невидима для человеческого глаза, поэтому светодиод кажется безобидным осветительным прибором. Но на камере результат оказался совсем другим: появились цветные полосы, из-за чего дорожный знак был неправильно распознан.
Однако для того, чтобы атака полностью дезориентировала систему автономного вождения и привела к принятию неверных решений, результаты должны быть одинаковыми на протяжении нескольких последовательных кадров, поскольку, если атака нестабильна, система может выявить dent и перевести автомобиль в аварийный режим, например, переключиться на ручное управление.
