자율주행차의 사회적 책임감 있는 AI는 사고 시 사망을 예방할 수 있음: 연구

미국 국립과학원 회보(Proceedings of the National Academy of Sciences)에 게재된 새로운 연구는 도로 사용자의 취약성을 인식하고 평가하도록 훈련된 자율주행차(AV)가 고위험 시나리오에서 훨씬 더 안전함을 보여줍니다. 

연구자들이 "사회적 민감성"이라고 부르는 기능을 갖춘 차량은 충돌 시 총 피해량을 17% 이상 줄인 것으로 나타났으며, 보행자, 자전거 타는 사람 및 기타 취약 계층에 대한 피해는 50% 이상 감소했습니다.

인간적인 추론과 기계적 정밀함이 자율주행차에 적용됨

자율주행차는 안전하고 효율적인 교통의 미래로 제시되어 왔습니다. 그러나 해당 분야의 개발이 계속됨에 따라, 특히 생사가 걸린 시나리오에서 윤리적 문제가 계속 대두되고 있습니다.

홍콩과학기술대학의 훙리앙 루(Hongliang Lu)가 이끈 연구에 따르면, 무인 자동차에 사회적 의식을 부여하면 도로 사고의 피해를 크게 줄일 수 있습니다. 이 연구는 신경과학과 행동심리학의 통찰을 자율주행차(AV) 프로그래밍에 통합합니다.

이 모델은 기존 의사결정 프레임워크인 EthicalPlanner 위에 레이어로 적용되어, 자율주행차가 충돌을 피하는 것뿐만 아니라 충돌이 불가피할 때 피해를 최소화하는 방식으로 행동하도록 했습니다.

이 AI는 가장 취약한 도로 사용자의 보호를 우선시하며, 이는 순수하게 기계적 위험 관점에서 모든 객체나 사람을 동일하게 취급하는 기존 모델에서 주요한 변화입니다.

매사추세츠 공과대학교(MIT)의 컴퓨터 과학 및 인공지능 연구소(CSAIL) 소장인 다니엘라 러스는 해당 접근 방식을 칭찬하며 "제안된 프레임워크는 도로 사용자 간 서로 다른 취약성 수준을 인지하며 복잡한 다중 에이전트 시나리오를 탐색할 수 있는 자율주행차(AV)로의 잠재적인 경로를 제공합니다."라고 말했습니다.

자율주행차는 윤리적 맹점과 사고로 인해 비판을 받아 왔습니다

이러한 혁신이 필요한 이유는 실제 발생한 비극들이 생명과 사업에 영향을 미쳤기 때문입니다. 예를 들어, 2018년 애리조나주에서 우버의 자율주행 테스트 차량이 보행자를 치어 사망시키는 사고가 발생했으며, 이는 자율주행차가 실시간으로 미묘한 결정을 내릴 필요가 있음을 강조했습니다.

마찬가지로 테슬라의 오토파일럿은 반자율 시스템과 관련된 치명적인 충돌을 포함한 여러 고조명 충돌 사고 이후 intense한 감시를 받아 왔습니다.

또한 제너럴모터스(GM)는 일련의 실패, 특히 보행자를 중상 입힌 사고를 겪은 후 자율주행 택시 자회사인 크루즈를 폐쇄했습니다. GM 임원들은 이 사고의 영향을 축소하려 했지만, 수십억 달러를 투자한 회사에 타격이 되었으며 폐쇄 발표에 영향을 미쳤습니다.

하지만 구글의 자율주행차 프로젝트인 웨이모는 향상된 안전 기능을 갖춘 자율주행차 배포에서 상당한 진전을 이루었습니다. 웨이모의 차량은 reportedly 교차로에서 차량 간 사고가 인간 운전자에 비해 96% 감소한 것으로 보고되었습니다.

로봇택시 증가

웨이모는 현재 샌프란시스코, 피닉스, 로스앤젤레스와 같은 도시에서 무인 운전을 운영하고 있습니다.

국제적으로는 두바이와 베이징과 같은 도시들이 스마트 시티 목표를 달성하기 위해 자율 대중교통에 투자하고 있습니다.

자율주행차에 대한 우려에도 불구하고 자율택시 서비스가 인기를 얻고 있어, 더 스마트하고 안전한 차량에 대한 요구가 중요합니다.

기술을 넘어, 자율적 의사결정은 심각한 법적 및 도덕적 질문을 제기합니다. 만약 AI 시스템이 한 도로 사용자를 해치면서 다른 사람을 구하는 것을 "선택"한다면, 누구에게 책임이 있을까요: 제조사, 소프트웨어 엔지니어, 아니면 소유자일까요? 전 세계의 법적 체계는 아직 공공 공간에서의 기계적 의사결정 현실에 따라잡지 못했습니다.

유럽위원회가 소집한 패널은 최근 자율주행차가 "위험의 공정한 분배"를 보장하고 "취약한 사용자를 포함한 기본 권리 보호"를 준수하도록 요구했습니다.