Поспешное внедрение ИИ правительством Великобритании усиливает предвзятость и дискриминацию

В последние годы быстрое внедрение технологий искусственного интеллекта правительством Великобритании в различные административные процедуры вызвало значительное беспокойство среди критиков и экспертов. Отчет The Guardian осветил множество случаев, когда интеграция ИИ приводила к негативным последствиям, особенно в отношении расовой предвзятости и дискриминационных практик, вызывая глубокие опасения относительно понимания и управления правительством недостатками этой технологии.

Использование систем распознавания лиц Лондонской столичной полицией подверглось значительной критике из-за их очевидной предвзятости по отношению к людям с темным цветом кожи. Несмотря на осведомленность властей о недостатках системы, недавние изменения, внесенные для ускорения идентификации подозреваемых, негативно повлияли на точность системы, особенно для чернокожих людей. Результаты Национальной физической лаборатории показывают, что снижение чувствительности привело к пятикратному снижению точности идентификации чернокожих по сравнению с белыми.

Инструменты государственного ИИ демонстрируют предвзятость при одобрении пособий и выдаче лицензий на брак.

В системах на основе ИИ, используемых правительством, проявились дискриминационные практики, приводящие к несправедливому обращению с представителями определенных национальностей. Министерство по делам труда и пенсий (DWP) подверглось серьезной критике после того, как система, предназначенная для выявления мошенничества с пособиями, якобы отметила непропорционально большое число граждан Болгарии, что могло привести к необоснованному приостановлению выплат пособий и финансовым трудностям. Ограниченное понимание DWP внутренних механизмов ИИ и его нежелание раскрывать соответствующую информацию усугубили опасения относительно целостности системы и ее потенциальной предвзятости.

Аналогичным образом, использование Министерством внутренних дел Великобритании технологии ИИ для выявления фиктивных браков привело к значительному количеству ложных срабатываний, особенно затронув заявителей из Греции, Албании, Болгарии и Румынии. Эти выводы подчеркивают насущную необходимость усиления контроля и прозрачности при внедрении правительством инструментов на основе искусственного интеллекта.

Неправомерное использование ИИ повышает риски, демонстрируя человеческий фактор

Недавние инциденты, включая случай, когда американский адвокат попытался использовать инструмент на основе ИИ для поиска юридических ссылок, но обнаружил сфабрикованную информацию, подчеркивают реальные риски, связанные с неправомерным использованием и непониманием ИИ. Эти случаи подчеркивают значимость человеческих ошибок и халатности при эффективном развертывании технологий ИИ.

Отсутствие всесторонней информации и прозрачности в государственных учреждениях дополнительно усугубляет проблемы, связанные с интеграцией ИИ, затрудняя выявление и устранение потенциальной предвзятости и дискриминационных практик.

Хотя ИИ обещает повысить эффективность и точность в различных государственных процессах, текущие события подчеркивают срочную необходимость в надежных нормативных рамках, всеобъемлющем надзоре и повышенной прозрачности при интеграции ИИ. Устранение присущих ИИ недостатков и предвзятости необходимо для обеспечения справедливых и равных результатов для всех лиц, затронутых этими технологиями.

Эволюционирующий дискурс вокруг внедрения ИИ правительством Великобритании отражает насущную необходимость в большей подотчетности и проактивных мерах по смягчению дискриминационных практик и предвзятости в сфере технологий ИИ. По мере продолжения дискуссий остается крайне важным для политиков и заинтересованных сторон сотрудничать в разработке всеобъемлющих руководящих принципов, приоритетом которых является справедливость и прозрачность, что в конечном итоге способствует более инклюзивному и равноправному использованию ИИ в государственных учреждениях.