Социально сознательный ИИ в AV может предотвратить смертельные случаи в авариях: исследование

Новое исследование, опубликованное в США в «Трудах Национальной академии наук», демонстрирует, что автономные транспортные средства (AV), обученные мыслить более по-человечески, в частности распознавать и оценивать уязвимость участников дорожного движения, значительно безопаснее в сценариях высокого риска. 

При оснащении тем, что исследователи назвали «социальной чувствительностью», автомобили смогли снизить общий ущерб при авариях более чем на 17%, при этом ущерб для пешеходов, велосипедистов и других уязвимых групп сократился более чем на 50%.

Человекоподобное рассуждение и машинная точность для AV

AV продвигаются как будущее безопасного и эффективного транспорта. Однако по мере того как в эту сферу входит больше разработок, этические проблемы продолжают всплывать, особенно в сценариях, от которых зависит жизнь.

Исследование, проведенное Хунлиангом Лу из Гонконгского университета науки и технологии, предполагает, что придание беспилотным автомобилям дозы социальной сознательности может радикально снизить ущерб в дорожных авариях. Исследование интегрирует выводы нейробиологии и поведенческой психологии в программирование автономных транспортных средств (AV).

Модель была наложена на существующую систему принятия решений под названием EthicalPlanner, что позволяет AV вести себя таким образом, чтобы не только избегать столкновений, но и минимизировать ущерб, когда авария неизбежна.

ИИ приоритизирует защиту наиболее уязвимых участников дорожного движения, что является значительным отходом от традиционной модели, которая часто рассматривает все объекты или людей одинаково с чисто механической точки зрения риска.

Даниэла Рус, директор Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (MIT), похвалила этот подход, сказав: «Предлагаемая рамка предлагает потенциальный путь к созданию AV, способных ориентироваться в сложных многоагентных сценариях с учетом различных уровней уязвимости участников дорожного движения».

Беспилотные автомобили сталкивались с критикой из-за этических слепых зон и аварий

Потребность в таких инновациях проистекает из реальных трагедий, повлиявших на жизни людей и бизнесы. Например, в 2018 году беспилотный тестовый автомобиль Uber наехал на пешехода и убил его в Аризоне, что подчеркнуло необходимость для AV принимать сложные решения в реальном времени.

Тем не менее, Autopilot от Tesla подвергся пристальному вниманию после нескольких громких аварий, включая фатальные столкновения с участием её полуавтономных систем.

Кроме того, General Motors закрыла своё подразделение по беспилотным такси Cruise после серии неудач, одной из которых стала авария, в которой пешеход получил тяжелые травмы. Руководители General Motors пытались преуменьшить значение инцидента. Однако негативная реакция способствовала объявлению о закрытии, несмотря на инвестиции в миллиарды долларов.

Однако Waymo, проект беспилотных автомобилей Google, добился значительного прогресса в развертывании AV с улучшенными функциями безопасности. Сообщается, что автомобили Waymo продемонстрировали снижение количества аварий между транспортными средствами на перекрестках на 96% по сравнению с водителями-людьми.

Рост числа роботакси

Waymo теперь осуществляет поездки без водителей в таких городах, как Сан-Франциско, Финикс и Лос-Анджелес.

За рубежом такие города, как Дубай и Пекин, инвестируют в автономный общественный транспорт как часть своих целей по созданию умных городов.

Несмотря на опасения по поводу AV, услуги автономных такси набирают популярность, что делает призыв к более умным и безопасным автомобилям важным.

Помимо технологий, автономное принятие решений порождает серьезные юридические и моральные вопросы. Если система ИИ «выбирает» причинить вред одному участнику дорожного движения, чтобы спасти другого, кто несет ответственность: производитель, инженер-программист или владелец? Правовые рамки во всем мире еще не догнали реалии машинного принятия решений в общественных местах.

Панель, созванная Европейской комиссией, недавно призвала AV обеспечивать «справедливое распределение рисков» и соблюдать «защиту основных прав, включая права уязвимых пользователей».