자율주행차 시스템에 대한 새로운 잠재적 공격 방식이dent되었습니다

자율주행차 시스템을 대상으로 한 새로운 유형의 공격이dent되었는데, 이 공격은 인공지능(AI)이 도로변의 교통 표지판을 무시하도록 만듭니다. 이 기술은 자율주행차의 인지에 필수적인 카메라 기반 컴퓨터 비전 기능을 필요로 하며, 공격 방식은 카메라의 롤링 셔터와 발광 다이오드(LED)를 악용하여 차량의 AI 시스템을 속이는 것입니다.

자율주행 시스템은 위험에 처할 수 있습니다

빠르게 깜빡이는 다이오드에서 방출되는 빛의 변화가 색상 인식을 바꾸는 데 사용될 수 있는데, 이는 CMOS 카메라의 작동 방식 때문이며, 이러한 카메라는 자동차에 가장 널리 사용되는 카메라입니다. 

이는 사람의 눈에 빛이 빠르게 비춰질 때 몇 초 동안 색상 인식이 변하는 것과 같은 현상입니다. 

카메라 센서는 일반적으로 전하결합소자(CCD) 또는 상보형 금속산화물반도체(CMOS)로 나뉩니다. CCD는 모든 픽셀을 한 번에 노출시켜 전체 사진 프레임을 촬영하는 반면, CMOS는tron셔터를 사용하여 이미지를 한 줄씩 촬영하는 방식으로 작동합니다. 일반 가정용 컴퓨터 프린터가 이미지를 구성하기 위해 여러 줄로 인쇄하는 방식을 예로 들 수 있습니다.

하지만 CMOS 센서는 프레임을 구성하기 위해 서로 다른 시간에 이미지를 캡처하기 때문에, 빠르게 변화하는 빛이 센서에 입력될 경우 센서 내에서 서로 다른 색조를 생성하여 이미지를 왜곡시킬 수 있다는 단점이 있습니다. 

하지만 CMOS 카메라가 차량용 카메라를 포함한 모든 종류의 카메라에 널리 채택된 이유는 가격이 저렴하고 화질과 가격 면에서 균형이 잘 잡혀 있기 때문입니다. 테슬라를 비롯한 일부 자동차 제조업체들도 자사 차량에 CMOS 카메라를 사용하고 있습니다.

연구 결과

최근 연구에서 연구원들은 위에서 설명한 과정이 자율주행차의 잠재적 위험 요소라고dent. 공격자가 입력 광원을 제어하여 캡처된 이미지에 다양한 색상의 줄무늬를 생성함으로써 컴퓨터 비전 시스템의 이미지 해석을 오도할 수 있기 때문입니다.

연구진은 발광 다이오드(LED)를 사용하여 깜빡이는 빛을 만들어 공격받는 지역의 이미지 분류를 혼란시키려 했고, 카메라 렌즈에 레이저를 쏘면 물체 감지를 방해하는 색깔 줄무늬가 생성되도록 했습니다. 

이전 연구들은 단일 프레임 테스트에 국한되었고, 연구자들은 통제된 환경에서 지속적이고 안정적인 공격을 시뮬레이션하기 위해 일련의 프레임을 생성하는 데까지는 나아가지 않았지만, 본 연구는 자율 주행 차량의 서버 보안에 미치는 영향을 보여주는 안정적인 공격을 시뮬레이션하는 것을 목표로 했습니다.

교통 표지판 바로 근처에서 LED 조명이 작동하여 표지판에 제어된 방식으로 진동하는 빛을 투사했습니다. 이 진동 주파수는 사람의 눈에 보이지 않기 때문에 우리 눈에는 보이지 않고, LED는 무해한 조명 장치처럼 보입니다. 하지만 카메라에 찍힌 영상은 전혀 다른 결과를 보여주었습니다. 이 빛은 표지판에 색깔 줄무늬를 만들어 교통 표지판 인식을 잘못 판단하게 만들었습니다.

완전히 오도 자율주행 시스템을 하고 잘못된 결정을 내리게 하려면, 공격 결과가 여러 연속 프레임에 걸쳐 동일해야 합니다. 공격이 안정적이지 않으면 시스템이dent하고 차량을 수동 주행과 같은 안전 모드로 전환할 수 있기 때문입니다.