Город Детройт принимает новые правила для технологии распознавания лиц после ошибочных арестов

В пятницу город Детройт принял новые правила использования технологии распознавания лиц на базе ИИ. Американский союз гражданских свобод (ACLU) заявляет, что новый набор правил должен стать национальным стандартом.

Правоохранительные органы по всей США используют технологию распознавания лиц на базе ИИ для помощи в идентификации преступников, попавших на камеру. В Мичигане система ИИ сравнивает новые лица с теми, что есть в базе данных фотографий задержанных или изображениях водительских удостоверений. В других регионах США, согласно отчету The New York Times, используются такие инструменты, как Clearview AI, для поиска по фотографиям, собранным из интернета, особенно с сайтов социальных сетей.

Технология распознавания лиц предоставляла неверные совпадения 

Гражданин Роберт Уильямс был заключен в тюрьму в Детройте в январе 2020 года. Он был арестован полицейским департаментом Детройта, потому что система распознавания лиц указала на него как на преступника. Совпадение системы было ошибочным, и Уильямс подал в суд. Он провел 30 часов в тюрьме.

Также читайте: Сенаторы призывают ограничить использование технологии распознавания лиц в аэропортах

28 июня Уильямс получил обязательство от полицейского департамента Детройта улучшить ситуацию в рамках юридического урегулирования его несправедливого ареста. Американский союз гражданских свобод представил г-на Уильямса как первого человека, несправедливо арестованного из-за неисправной системы распознавания лиц. Уильямс сказал:

«Мы надеемся, что это сдвинет дело в правильном направлении».

Двое других людей также были арестованы на основе идентификации неисправной системы распознавания лиц. Среди арестованных, необоснованно обвиненных в краже автомобиля, была беременная на восьмом месяце женщина Порча Вудрафф.

Полиции теперь требуется доказательство помимо распознавания лиц

Важным новым правилом, принятым городом, является то, что фотографии людей, идентифицированных системой распознавания лиц, больше не могут показываться свидетелям. Это разрешено только в случае наличия дополнительных доказательств, связывающих идентифицированного человека с преступлением.

Адвокат ACLU Фил Мэйор сказал: «Поток „получить фото, вставить в линию“ закончится». Он добавил далее:

«Это урегулирование переводит полицейский департамент Детройта из категории наиболее задокументированных злоупотребляющих технологией распознавания лиц в национальных лидеров по внедрению защитных мер в ее использовании».

Важно помнить, что г-н Уильямс был несправедливо арестован за кражу в магазине, которая произошла, когда он работал за своим столом в компании по поставкам. Его отпечатки пальцев и ДНК также были собраны, и ему пришлось нанять адвоката для защиты. Мисс Вудрафф была арестована, когда она готовила своих детей к школе. Она также подала в суд на город, и дело находится в суде.

Полиция будет использовать технологии на базе ИИ для серьезных преступлений

Полиция заявила, что технология распознавания лиц помогает в расследовании преступлений, так как это мощный инструмент. Однако многие города запретили ее использование из-за опасений по поводу расовой предвзятости и конфиденциальности. Сообщается, что полицейский департамент Детройта совершил три несправедливых ареста из-за неисправной технологии. Однако городские чиновники заявили, что новые правила предотвратят злоупотребления. 

Также читайте: Запретите сканирование — является ли распознавание лиц угрозой для гражданских свобод?

Городские чиновники остаются оптимистичными относительно потенциала технологии искусственного интеллекта. Они заявили, что будут использовать ее для более серьезных преступлений, таких как проникновение в дом, нападение или убийство. Джеймс Уайт, начальник полиции Детройта, сказал, что его сотрудники слишком сильно полагаются на технологию. Он обвинил их суждение, а не машину.

Говоря о правиле, согласно которому полиция больше не может показывать лицо человека исключительно на основе распознавания лиц, г-н Ламоро из подразделения криминальной разведки сказал:

«Должно быть какое-то дополнительное подтверждающее доказательство, не связанное с этим, прежде чем будет достаточно оснований для предъявления в линии».

Ламоро сказал, что полиции теперь потребуется больше, чем просто физическое сходство человека. Он заявил, что потребуется геотеги телефона человека для определения местоположения или доказательства ДНК.

Согласно новым правилам, полиция должна будет раскрывать результаты поиска по лицам вместе с качеством фотографии. Заместитель начальника полиции Детройта г-н Хейс выразил уверенность в новых правилах. Он сказал, что они помогут сократить случаи ошибочной идентификации. Однако он отметил, что «все еще есть несколько вещей, которые могут дать сбой, например, однояйцевые близнецы».

Материал Cryptopolitan от Амира Шейха