По имеющимся данным, правительство Великобритании не включает использование систем искусственного интеллекта в обязательные реестры, что вызывает опасения по поводу прозрачности.
Как сообщает The Guardian, министр технологий признал, что ведомства не проявляют прозрачности в отношении использования ИИ и алгоритмов, несмотря на то, что различные правительственные ведомства используют их для разных целей.
Британские правительственные ведомства действуют вслепую в отношении использования ИИ
The Guardian сообщается, что ни одно ведомство не упомянуло об использовании ИИ с тех пор, как правительство заявило о его обязательном применении. Это вызвало опасения, что государственный сектор действует «вслепую».
Это происходит на фоне того, что правительственные ведомства в Великобритании уже используют ИИ, например, для принятия решений по самым разным вопросам, от выплаты пособий до контроля за соблюдением иммиграционного законодательства. По данным The Guardian, некоторые записи показывают, что государственные органы заключалиtracна предоставление услуг в области алгоритмов ИИ.
Например, недавно орган по закупкам полиции выставил на продажуtracна систему распознавания лиц стоимостью 20 миллионов долларов, что еще больше усилило опасения по поводу «массового биометрического наблюдения»
Однако в публичный реестр было внесено всего девять алгоритмических систем, и ни одна из них не входит в растущее число программ искусственного интеллекта, используемых в системе социального обеспечения Министерством внутренних дел или полицией. В феврале правительство Великобритании объявило, что использование реестров ИИ теперь станет «обязательным требованием для всех правительственных ведомств».
Отвечая на вопрос о недостаточной прозрачности, министр науки и технологий Питер Кайл признал, что государственный сектор «не в полной мере отнесся к необходимости обеспечения прозрачности в использовании правительством алгоритмов»
«Я признаю, что если правительство использует алгоритмы в интересах общественности, то общественность имеет право знать об этом»
Кайл.
«Общественность должна чувствовать, что алгоритмы существуют для того, чтобы служить ей, а не наоборот. Единственный способ добиться этого — обеспечить прозрачность в их использовании», — добавил Кайл.
Правительство Великобритании проигнорировало предупреждения
Согласно статье в The Guardian, эксперты предупреждали об опасностях искусственного интеллекта в случае его некритического внедрения, приводя в качестве недавних примеров неработающих ИТ-систем программное обеспечение Horizon, используемое Почтовой службой.
Использование технологий искусственного интеллекта в Уайтхолле охватывает широкий спектр областей, от системы Copilot от Microsoft до автоматизированных проверок на мошенничество и ошибки в системе социальных пособий. В другом недавнем объявлении оtracиспользование ИИ, опубликованном Министерством труда и пенсий (DWP), отмечался «бурный рост интереса внутри DWP, который отражает интерес со стороны правительства и общества в целом»
Помимо полиции, Министерство внутренних дел также использует систему контроля за соблюдением иммиграционного законодательства с использованием искусственного интеллекта. Эта система, которую критики называют «роботом-специалистом по работе с гражданами», участвует в принятии решений, в том числе о возвращении людей в страны их происхождения.
Однако правительство охарактеризовало её как «систему, основанную на правилах», в отличие от системы искусственного интеллекта, поскольку она не предполагает машинного обучения на основе данных. По мнению правительства, это повышает эффективность, хотя за каждое решение по-прежнему отвечает человек.
Сообщается также, что Национальная служба здравоохранения Англии заключилаtracс компанией Palantir на сумму 330 миллионов фунтов стерлингов на создание новой масштабной платформы для обработки данных, что еще больше усиливает опасения по поводу конфиденциальности пациентов. В Palantir заявили, что пациенты сохраняют контроль над своими данными.
Группа активистов по защите прав на неприкосновенность частной жизни Big Brother Watch подчеркнула, что появление контракта на использование полицией технологии распознавания лиц trac несмотря на предупреждения депутатов парламента об отсутствии законодательства, регулирующего этот вопрос, свидетельствует о недостаточной прозрачности правительства в отношении использования технологии искусственного интеллекта.
«Скрытое использование ИИ и алгоритмов для воздействия на жизнь людей ставит под угрозу права каждого на защиту данных», — заявила Мадлен Стоун, руководитель отдела по защите прав потребителей.
«Правительственные ведомства должны быть открытыми и честными в отношении того, как они используют эти технологии»
Камень.
Заместитель директора исследовательской организации, занимающейся данными и искусственным интеллектом, Имоджен Паркер также выразила обеспокоенность по поводу недостаточной прозрачности.
«Отсутствие прозрачности не только держит общественность в неведении, но и означает, что государственный сектор действует вслепую при внедрении ИИ»
Паркер.
«Неспособность публиковать данные о прозрачности алгоритмов ограничивает возможности государственного сектора определять, работают ли эти инструменты, извлекать уроки из неудач и отслеживать различные социальные последствия их применения», — добавил Паркер.
