Технология распознавания лиц (FRT) вновь оказалась под пристальным вниманием из-за опасений, что она может усугубить расовое неравенство в правоохранительной деятельности. Недавнее исследование, проведенное онлайн-изданием Scientific American, пролило свет на потенциальные искажения, заложенные в FRT , и их реальные последствия.
Исследование показало, что правоохранительные органы, использующие автоматизированное распознавание лиц, непропорционально часто арестовывают чернокожих, что поднимает важные вопросы о справедливости и надежности этой технологии.
Недостатки в алгоритмах FRT
Исследователи, подготовившие этот отчет, утверждают, что несколько факторов способствуют непропорциональному воздействию FRT на чернокожие сообщества. Одна из главных проблем — недостаток разнообразия в обучающих наборах данных алгоритмов, в которых часто недостаточно представлено чернокожее население. Этот defiможет привести к неточностям вdentлиц из групп меньшинств.
Ещё одним фактором, способствующим этому, является убеждение сотрудников правоохранительных органов в непогрешимости этих программ. Такая чрезмерная зависимость от технологий может привести к тому, что офицеры будут безоговорочно доверять результатам FRT, даже если они содержат ошибки.
Кроме того, исследование показывает, что предвзятость сотрудников полиции может усугубить проблемы в группах быстрого реагирования, приводя к неправомерным арестам и пагубным последствиям для невиновных лиц.
Одним из ярких примеров реальных последствий ошибочнойdentс помощью технологии распознавания лиц является случай Харви Юджина Мерфи-младшего. 61-летний дедушка в настоящее время подал в суд на материнскую компанию Sunglass Hut после того, как технология распознавания лиц магазина ошибочноdentего как грабителя.
Ограбление произошло в магазине Sunglass Hut в Хьюстоне, штат Техас, где двое вооруженных людей похитили как cash , так и товар.
Полиция Хьюстона, опираясь на данные FRT,dentМерфи как подозреваемого, несмотря на то, что на момент совершения преступления он проживал в Калифорнии. Он был арестован по возвращении в Техас для продления водительских прав. Находясь в тюрьме, Мерфи утверждает, что подвергся сексуальному насилию со стороны трех мужчин в ванной комнате, в результате чего получил травмы, изменившие его жизнь.
Хотя прокуратура округа Харрис в конечном итоге установила, что Мерфи не был причастен к ограблению, ущерб уже был нанесен за время его пребывания под стражей. Его адвокаты утверждают, что этот случай иллюстрирует присущие FRT недостатки и последствия на практике.
Мнения экспертов и призывы к действию
Ос Кийес, стипендиат программы Ады Лавлейс и аспирант Вашингтонского университета, утверждает, что эти системы призваны автоматизировать и ускорить существующие предвзятые взгляды полиции, особенно в отношении лиц, уже находящихся в маргинальном положении или вовлеченных в систему уголовного правосудия.
Кийес подчеркивает, что негативные последствия FRT неизбежны и ужасающи, и акцентирует внимание на необходимости более масштабных реформ в сфере правоохранительной деятельности и регулирования FRT.
Исследователи из Scientific American подчеркивают, что частные компании, такие как Amazon, Clearview AI и Microsoft, обычно разрабатывают алгоритмы FRT, используемые правоохранительными органами.
Несмотря на достижения в области методов глубокого обучения, федеральные испытания показали, что большинство алгоритмов распознавания лиц с трудом точноdentлюдей, особенно тех, кто не является белым мужчиной.
В 2023 году Федеральная торговая комиссия (FTC) приняла меры против использования технологии FRT, запретив Rite Aid использовать эту технологию. Rite Aid ошибочно обвиняла людей в краже в магазинах на основании совпадений в FRT. В одном тревожномdent11-летняя девочка была остановлена и обыскана сотрудником Rite Aid из-за ложного совпадения.
Аналогичным образом, Департамент полиции Детройта столкнулся с судебным иском после того, как их группа быстрого реагирования ошибочноdentбеременную женщину, Порчу Вудрафф, как подозреваемую в угоне автомобиля. В тот момент Вудрафф была на восьмом месяце беременности и была незаконно заключена под стражу.
Федеральная торговая комиссия признала, что при использовании FRT люди с темным цветом кожи частоdentидентифицируются. Чрезмерное представительство белых мужчин в обучающих наборах данных приводит к искажению алгоритмов, в результате чего лица чернокожих людей непропорционально часто помечаются как лица преступников. Это, в свою очередь, способствует несправедливому преследованию и аресту невиновных чернокожих людей.
Призывы к подотчетности и реформам
В свете этих опасений исследователи подчеркивают необходимость того, чтобы компании, разрабатывающие продукты FRT, уделяли приоритетное внимание разнообразию персонала и изображений в своих процессах разработки. Однако они также подчеркивают, что правоохранительные органы должны критически пересмотреть свои методы, чтобы предотвратить усугубление расового неравенства и нарушение прав личности с помощью технологий.
По мере того как продолжаются дебаты вокруг технологии распознавания лиц, становится все более очевидным, что для решения системных проблем ее внедрения необходимы всеобъемлющие реформы и регулирование.
Последствия несовершенства алгоритмов FRT выходят далеко за рамки технических сбоев и затрагивают жизнь и благополучие отдельных лиц, особенно представителей маргинализированных сообществ.
