Министр технологий Великобритании заявил, что правительство страны не обеспечивает прозрачности в использовании ИИ

По сообщениям, правительство Великобритании не включает информацию об использовании систем ИИ в обязательные реестры, что вызывает опасения по поводу недостатка прозрачности.

Согласно The Guardian, министр технологий признал, что ведомства не обеспечивают прозрачности в вопросах использования ИИ и алгоритмов, несмотря на то, что различные государственные структуры применяют их для решения разных задач.

Ведомства правительства Великобритании действуют «вслепую» в вопросах использования ИИ

Статья The Guardian раскрывает, что ни один из перечисленных департаментов не указал использование ИИ, с тех пор как правительство заявило, что это станет обязательным. Это вызвало опасения, что государственный сектор «действует вслепую».

Это происходит на фоне того, что государственные ведомства Великобритании уже используют ИИ, например, для принятия решений о выплатах пособий или обеспечении соблюдения иммиграционного законодательства. По данным The Guardian, некоторые документы свидетельствуют о том, что государственные органы заключали контракты на услуги алгоритмического ИИ.

Например, орган по закупкам полиции недавно выставил контракт на сумму 20 миллионов долларов на системы распознавания лиц, что вновь вызвало опасения по поводу «массового биометрического наблюдения».

Однако в публичный реестр было подано только девять алгоритмических систем, ни одна из которых не относится к растущему числу программ ИИ, используемых в системе социального обеспечения Министерством внутренних дел или полицией. В феврале правительство Великобритании объявило, что использование реестров ИИ теперь станет «требованием для всех государственных департаментов».

Отвечая на вопросы о недостатке прозрачности, государственный секретарь по науке и технологиям Питер Кайл признал, что государственный сектор «не принял всерьез необходимость обеспечения прозрачности в том, как правительство использует алгоритмы».

"Я признаю, что если правительство использует алгоритмы от имени общественности, у общественности есть право знать об этом."

Кайл.

"Общественность должна чувствовать, что алгоритмы служат ей, а не наоборот. Единственный способ добиться этого — обеспечить прозрачность их использования", — добавил Кайл.

Правительство Великобритании проигнорировало предупреждения

Согласно статье в The Guardian, эксперты предупреждали об опасностях некритичного внедрения ИИ, приводя в пример недавние случаи сбоев в работе ИТ-систем, такие как программное обеспечение Horizon в Почтамте Великобритании.

Использование технологий ИИ в Уайтхолле варьируется от системы Microsoft Copilot до автоматизированных проверок на мошенничество и ошибки в системе пособий. В недавнем уведомлении о контракте Министерства по делам работы и пенсий (DWP) описывается «взрывной рост интереса» внутри DWP, который отражает тенденции всего правительства и общества в целом.

Помимо полиции, Министерство внутренних дел также использует систему обеспечения соблюдения иммиграционного законодательства на базе ИИ. Эта система, которую критики называют «роботом-специалистом по делам», участвует в формировании решений, включая вопросы депортации людей в их страны происхождения.

Однако правительство описывает ее как систему, основанную на правилах, а не как ИИ, поскольку она не предполагает машинного обучения на основе данных. По словам правительства, это повышает эффективность, хотя за каждое решение несет ответственность человек.

Как сообщается, NHS England также заключила контракт на сумму 330 миллионов фунтов стерлингов с компанией Palantir для создания новой масштабной платформы данных, что вновь вызвало опасения по поводу конфиденциальности пациентов. Palantir заявила, что пациенты сохраняют контроль над своими данными.

Группа по защите прав конфиденциальности Big Brother Watch подчеркнула, что появление контракта на распознавание лиц полицией, несмотря на предупреждения депутатов об отсутствии законодательства для его регулирования, показывает отсутствие прозрачности правительства в отношении использования технологии ИИ.

"Секретное использование ИИ и алгоритмов, влияющее на жизнь людей, ставит под угрозу права всех на данные", — сказала Мэдлин Стоун, главный директор по вопросам адвокации.

"Государственные ведомства должны быть открыты и честны в том, как они используют эти технологии."

Стоун.

Заместитель директора исследовательского центра в области данных и ИИ Аймон Паркер также выразила обеспокоенность по поводу отсутствия прозрачности.

"Отсутствие прозрачности не только держит общественность в неведении, но и означает, что государственный сектор действует вслепую при внедрении ИИ."

Паркер.

"Непубликация записей об прозрачности алгоритмов ограничивает способность государственного сектора определять, работают ли эти инструменты, извлекать уроки из неудач и контролировать различные социальные последствия их использования", — добавила Паркер.