Сеть аптек Rite Aid прекращает использование технологии распознавания лиц на основе искусственного интеллекта после урегулирования спора с Федеральной торговой комиссией

 Крупная сеть аптек Rite Aid согласилась прекратить использование технологии распознавания лиц на основе искусственного интеллекта в рамках мер по предотвращению краж в магазинах. Это решение принято в ответ на юридическое соглашение с Федеральной торговой комиссией (FTC) и на фоне обвинений в расовом профилировании. Система ИИ, используемая с 2012 года, предположительно демонстрировала предвзятость, непропорционально чаще выбирая в качестве жертв покупателей афроамериканского, латиноамериканского и азиатского происхождения, чем белых покупателей.

Обвинения в расовом профилировании приводят к принятию мер

Использование компанией Rite Aid технологии распознавания лиц на основе искусственного интеллекта подверглось критике из-за предполагаемого профилирования определенных расовых групп. В частности, система использовалась дляdentпокупателей, которые, по мнению компании, могли совершить кражу, и срабатывали оповещения для сотрудников магазина, когда эти лица входили в помещение. Вызывает тревогу тот факт, что представленные в юридических документах доказательства свидетельствуют о том, что люди с темным цветом кожи чаще подвергались необоснованному наблюдению, преследованиям и публичному позору.

Так называемый феномен «покупок для чернокожих», давно вызывающий озабоченность, подразумевает необоснованное подозрение, постоянный контроль и несправедливые обвинения в краже, предъявляемые чернокожим покупателям с момента их входа в магазины. Эта проблема распространяется и на дискриминационные практики, такие как хранение средств по уходу за волосами и косметических товаров для чернокожих за стеклянными витринами, в то время как аналогичные товары для белых покупателей остаются в свободном доступе на открытых полках.

Злоупотребление компанией Rite Aid технологией распознавания лиц является тревожным примером того, что некоторые эксперты называют «розничным расизмом», и подчеркиваетmatic роль, которую ИИ может играть в усилении и усугублении расового неравенства.

Предвзятость в ИИ

Рашон Рэй, профессор социологии в Университете Мэриленда и старший научный сотрудник Института Брукингса, отмечает, что технологии искусственного интеллекта часто отражают существующее неравенство, поскольку они разрабатываются в условиях отсутствия разнообразия и инклюзивности. Когда те же стереотипы, которые пронизывают повседневные взаимодействия, закладываются в алгоритмы, результатом становится технология распознавания лиц, которая увековечивает расовые стереотипы, подобно человеческой предвзятости.

В этой проблеме существенное значение имеют скрытые предубеждения, коренящиеся в ментальных стереотипах, которые бессознательно связывают определенные группы с конкретными характеристиками или моделями поведения. В розничной торговле эти предубеждения часто проявляются в том, что сотрудники ошибочно связывают покупателей небелой расы с тенденциями краж, не подтвержденными данными. Несмотря на то, что статистика указывает на то, что большинство магазинных воров в США — белые, злоупотребление технологиями искусственного интеллекта продолжает распространять ложное представление о большинстве магазинных воров.

Хотя кража товаров представляет собой существенный финансовый риск для бизнеса, использование компанией Rite Aid искусственного интеллекта для слежки привело к непредвиденным последствиям. Покупатели из числа представителей расовых меньшинств, которые стали жертвами несправедливой охоты, подверглись унижению, что привело к потере дохода для магазинов. Некоторые сообщества, особенно те, у кого отсутствовали альтернативные варианты покупок, были вынужденыtronзаведения, где они сталкивались с дискриминацией и оскорблениями.

Роль ИИ за пределами розничной торговли

Последствия использования предвзятого ИИ выходят за рамки розничной торговли и вызывают опасения по поводу его влияния на работу полиции и общественную безопасность. Громкие дела, такие как неправомерный арест беременной чернокожей женщины в Детройте из-за ошибок в технологии распознавания лиц, ставят под сомнение надежность систем видеонаблюдения, использующих ИИ.

Данные исследовательского центра Pew Research Center показывают, что чернокожиеdentпроявляют наименьшее доверие к технологии распознавания лиц в полиции. Почти половина опрошенных чернокожих выразили опасения, что сотрудники полиции будут злоупотреблять технологиями на основе искусственного интеллекта для слежки за преимущественно чернокожими и латиноамериканскими кварталами чаще, чем за районами сdentразнообразием.

Призывы к осторожности и тестированию

Ранее в этом году пять сенаторов США выступили против использования Управлением транспортной безопасности (TSA) технологии распознавания лиц в аэропортах США. Они сослались на исследование, показавшее, что чернокожие и азиаты значительно чащеdentидентифицируются с помощью таких технологий по сравнению с белыми мужчинами. В рамках соглашения с Федеральной торговой комиссией (FTC) компания Rite Aid обязалась приостановить использование систем видеонаблюдения на основе искусственного интеллекта на следующие пять лет. Эксперты предлагают другим розничным компаниям последовать их примеру, проведя тщательное и многократное тестирование для устранения предвзятости в этих технологиях.