Технология распознавания лиц и расовое неравенство в полиции

Технология распознавания лиц (FRT) снова оказалась под пристальным вниманием из-за опасений, что она может усугубить расовое неравенство в работе полиции. Недавние исследования, проведенные онлайн-изданием Scientific American, пролили свет на потенциальные предвзятости, заложенные в алгоритмы FRT, и их реальные последствия.

Исследование показало, что правоохранительные органы, использующие автоматическое распознавание лиц, непропорционально часто арестовывают чернокожих, что поднимает критические вопросы о справедливости и надежности этой технологии.

Недостатки алгоритмов FRT

Исследователи, стоящие за отчетом, утверждают, что несколько факторов способствуют непропорциональному воздействию FRT на чернокожие сообщества. Одна из главных проблем — отсутствие разнообразия в обучающих наборах данных алгоритмов, которые часто не имеют адекватного представления лиц чернокожих. Этот недостаток может привести к неточностям при идентификации лиц из меньшинств.

Еще одним способствующим фактором является убеждение среди правоохранительных органов в непогрешимости этих программ. Эта чрезмерная зависимость от технологии может заставить офицеров слепо доверять результатам FRT, даже когда они ошибочны. 

Кроме того, исследование предполагает, что врожденные предубеждения офицеров могут усугублять проблемы внутри FRT, приводя к ложным арестам и пагубным последствиям для невиновных людей.

Один яркий пример реальных последствий ошибочной идентификации FRT — дело Харви Эвджина Мерфи-младшего. 61-летний дедушка сейчас подает в суд на материнскую компанию Sunglass Hut после того, как технология распознавания лиц в магазине ошибочно идентифицировала его как грабителя. 

Грабеж произошел в магазине Sunglass Hut в Хьюстоне, штат Техас, где двое вооруженных лиц похитили наличные и товары.

Полиция Хьюстона, полагаясь на FRT, идентифицировала Мерфи как подозреваемого, хотя на момент преступления он проживал в Калифорнии. Он был арестован при возвращении в Техас для продления водительских прав. Находясь в тюрьме, Мерфи утверждает, что подвергся сексуальному насилию со стороны трех мужчин в ванной комнате, что привело к изменениям в жизни.

Хотя окружная прокуратура округа Харрис в конечном итоге определила, что Мерфи не был причастен к грабежу, ущерб уже был нанесен во время его пребывания в заключении. Его адвокаты утверждают, что этот случай является примером присущих FRT недостатков и последствий на практике.

Экспертные мнения и призывы к действию

Ос Киз, стипендиат Ады Лавлейс и кандидат наук в Университете Вашингтона, утверждает, что эти системы разработаны для автоматизации и ускорения существующих предубеждений полиции, особенно в отношении лиц, которые уже маргинализированы или находятся в системе уголовного правосудия. 

Киз подчеркивает, что негативные последствия FRT неизбежны и ужасающи, подчеркивая необходимость более широкой реформы полиции и регулирования FRT.

Исследователи из Scientific American отмечают, что частные компании, такие как Amazon, Clearview AI и Microsoft, обычно разрабатывают алгоритмы FRT, используемые правоохранительными органами. 

Несмотря на прогресс в области методов глубокого обучения, федеральные тестирования показали, что большинство алгоритмов распознавания лиц испытывают трудности с точной идентификацией людей, особенно тех, кто не является белыми мужчинами.

В 2023 году Федеральная торговая комиссия (FTC) предприняла меры против использования технологии распознавания лиц (FRT), запретив сети Rite Aid применять эту технологию. Rite Aid ошибочно обвинял людей в краже товаров на кассе на основе совпадений, выявленных FRT. В одном тревожном инциденте 11-летняя девочка была остановлена и обыскана сотрудником Rite Aid из-за ложного совпадения.

Аналогичным образом, Департамент полиции Детройта столкнулся с судебным иском после того, как их система FRT ошибочно идентифицировала беременную женщину, Порчу Вудрафф, как подозреваемую в угоне автомобиля. На тот момент Вудрафф была на восьмом месяце беременности и была незаконно заключена под стражу.

FTC признала, что люди цветной кожи часто ошибочно идентифицируются при использовании FRT. Чрезмерное представительство белых мужчин в обучающих наборах данных приводит к искажению алгоритмов, в результате чего лица чернокожих людей непропорционально часто помечаются как криминальные. Это, в свою очередь, способствует несправедливому преследованию и аресту невиновных чернокожих людей.

Призывы к подотчетности и реформам

В свете этих опасений исследователи подчеркивают необходимость для компаний, разрабатывающих продукты FRT, приоритизировать разнообразие персонала и изображений в процессах разработки. Однако они также подчеркивают, что правоохранительные органы должны критически пересмотреть свои методы, чтобы предотвратить усугубление технологией расового неравенства и нарушение прав людей.

По мере продолжения дебатов вокруг технологии распознавания лиц становится все более очевидным, что необходимы всесторонние реформы и регулирование для решения системных проблем, связанных с ее внедрением. 

Последствия несовершенных алгоритмов FRT выходят далеко за рамки технических сбоев, затрагивая жизни и благополучие людей, особенно тех, кто принадлежит к маргинализированным сообществам.