자율주행차 시스템에 대한 새로운 잠재적 공격 식별

자율주행차 시스템에 대한 새로운 유형의 공격이 식별되었으며, 이는 AI가 도로 옆의 교통 표지를 무시하도록 강요합니다. 이 기술은 차량에 카메라 기반 컴퓨터 비전이 탑재되어 있어야 하는데, 이는 자율주행차의 인지 기능에 대한 주요 요구사항이기 때문입니다. 이 공격은 카메라의 롤링 셔터를 LED와 함께 활용하여 차량의 AI 시스템을 속이는 것을 포함합니다.

자율주행 시스템은 위험에 처할 수 있습니다

빠르게 깜박이는 다이오드에서 방출되는 빠르게 변화하는 빛은 CMOS 카메라의 작동 방식 때문에 색상 인식을 변경하는 데 사용될 수 있으며, CMOS는 자동차에서 가장 많이 사용되는 카메라입니다. 

이는 사람이 눈앞에 빛이 빠르게 깜박일 때 몇 초 동안 색상 가시성이 변하는 것과 동일한 효과입니다. 

카메라 센서 유형은 일반적으로 전하 결합 장치(CCD) 또는 상보성 금속 산화물 반도체(CMOS)로 제공됩니다. 첫 번째 유형은 모든 픽셀을 한 번에 노출시켜 전체 이미지 프레임을 캡처하지만, CMOS는 라인을 따라 이미지를 캡처하는 전자 셔터를 사용하기 때문에 완전히 다릅니다. 라인을 따라 인쇄하여 이미지를 형성하는 전통적인 가정용 컴퓨터 프린터를 예로 들어보겠습니다.

하지만 단점은 CMOS 이미지 라인이 프레임을 형성하기 위해 서로 다른 시간에 캡처되므로, 빠르게 변화하는 빛의 입력이 센서에서 다른 색상 음영을 생성하여 이미지를 왜곡할 수 있다는 것입니다. 

하지만 자동차용 카메라를 포함한 모든 유형의 카메라에서 널리 채택된 이유는 비용이 저렴하고 이미지 품질과 비용 사이의 좋은 균형을 제공하기 때문입니다. 테슬라와 일부 기타 자동차 제조사도 차량에 CMOS 카메라를 사용합니다.

연구 결과

최근 연구에서 연구자들은 위에서 설명한 과정을 자율주행차의 잠재적 위험 요인으로 식별했습니다. 공격자가 캡처된 이미지에 다른 색상의 줄무늬를 생성하여 컴퓨터 비전 시스템의 이미지 해석을 오도하기 위해 입력 광원을 제어할 수 있기 때문입니다.

연구자들은 발광 다이오드(LED)를 사용하여 깜빡이는 조명 환경을 만들고 공격 대상 지역의 이미지 분류를 속이려 했으며, 카메라 렌즈에 레이저가 발사되면 렌즈가 색상 줄무늬를 생성하여 객체 감지를 방해했습니다. 

이전 연구들은 단일 프레임 테스트에 국한되었고 연구자들이 통제된 환경에서 지속적인 안정적 공격을 시뮬레이션하기 위해 프레임 시퀀스를 생성하는 데까지 나아가지 않았지만, 현재의 연구는 자율주행차에 대한 서버 보안 영향을 보여주는 안정적 공격을 시뮬레이션하는 것을 목표로 했습니다.

LED는 교통 표지 근처에서 발사되어 표지에 제어되고 변동하는 빛을 투영했습니다. 변동 주파수는 인간의 눈에는 보이지 않으므로 우리에게 보이지 않으며, LED는 무해한 조명 장치처럼 보입니다. 하지만 카메라에서는 결과가 완전히 달랐는데, 이는 교통 표지 인식을 오도하기 위해 색상 줄무늬를 도입했기 때문입니다.

하지만 공격이 자율주행 시스템을 완전히 오도하고 잘못된 결정을 내리게 하려면, 여러 연속적인 프레임에 걸쳐 결과가 동일해야 합니다. 공격이 안정적이지 않으면 시스템이 오작동을 식별하고 수동 운전자로 전환하는 등 안전 모드에 진입할 수 있기 때문입니다.