O governo do Reino Unido não é transparente sobre seu uso de IA, diz Secretário de Tecnologia

O governo do Reino Unido está relatadamente não listando seu uso de sistemas de IA em registros obrigatórios, levantando preocupações sobre questões de transparência.

De acordo com o The Guardian, o Secretário de Tecnologia admitiu que os departamentos não são transparentes em relação ao seu uso de IA e algoritmos, apesar de vários departamentos do governo usá-lo para vários propósitos.

Departamentos do governo do Reino Unido “voando às cegas” sobre seu uso de IA

O artigo do The Guardian revela que nenhum dos departamentos listou o uso de IA desde que o governo indicou que se tornaria obrigatório. Isso levantou preocupações de que o setor público está “voando às cegas.”

Isso ocorre enquanto os departamentos do governo no Reino Unido já estão usando IA, por exemplo, para informar decisões sobre tudo, desde pagamentos de benefícios até aplicação de imigração. De acordo com o The Guardian, alguns registros mostram que órgãos públicos concederam contratos para serviços algorítmicos de IA.

Por exemplo, o órgão de compras da polícia recentemente lançou um contrato de reconhecimento facial no valor de US$ 20 milhões, aumentando ainda mais as preocupações sobre a “vigilância biométrica em massa.”

No entanto, apenas nove sistemas algorítmicos foram submetidos a um registro público, nenhum dos crescentes programas de IA usados no sistema de bem-estar pelo Home Office ou pela polícia. Em fevereiro, o governo do Reino Unido anunciou que o uso de registros de IA agora seria um “requisito para todos os departamentos do governo.”

Quando questionado sobre a falta de transparência, o Secretário de Estado para Ciência e Tecnologia, Peter Kyle, admitiu que o setor público “não levou a sério o suficiente a necessidade de ser transparente na forma como o governo usa algoritmos.”

“Aceito que, se o governo estiver usando algoritmos em nome do público, o público tem o direito de saber.”

Kyle.

“O público precisa sentir que os algoritmos estão lá para servi-lo e não o contrário. A única maneira de fazer isso é ser transparente sobre seu uso”, acrescentou Kyle.

O governo do Reino Unido ignorou os avisos

De acordo com o artigo do The Guardian, especialistas alertaram sobre os perigos da IA se adotada sem crítica, com exemplos recentes de sistemas de TI que não funcionaram como o pretendido, incluindo o software Horizon da Post Office.

O uso de tecnologia de IA no Whitehall abrange desde o sistema Copilot da Microsoft até verificações automatizadas de fraude e erro no sistema de benefícios. Outro aviso recente de contrato de IA pelo Departamento de Trabalho e Pensões (DWP) descreveu “um crescimento explosivo de interesse dentro do DWP, que espelha o do governo e da sociedade em geral.”

Além da polícia, o Ministério do Interior também usa um sistema de aplicação da imigração habilitado por IA. Este sistema, que os críticos chamam de “robocaseiro”, está envolvido na formulação de decisões, incluindo a devolução de pessoas aos seus países de origem.

O governo, no entanto, o descreveu como um sistema “baseado em regras” em vez de IA, porque não envolve aprendizado de máquina a partir de dados. De acordo com o governo, isso traz eficiências, embora um humano permaneça responsável por cada decisão.

O NHS England também está, segundo relatos, em um contrato de 330 milhões de libras com a Palantir para construir uma nova plataforma de dados massiva, aumentando ainda mais as preocupações sobre a privacidade dos pacientes. A Palantir disse que os pacientes mantêm o controle dos dados.

Um grupo de campanha por direitos à privacidade, Big Brother Watch, destacou que o surgimento do contrato de reconhecimento facial da polícia, apesar de MPs alertarem sobre a falta de legislação para regulá-lo, mostrou a falta de transparência do governo sobre o uso da tecnologia de IA.

“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca em risco os direitos de dados de todos”, disse Madeleine Stone, diretora-chefe de advocacy.

“Os departamentos governamentais devem ser abertos e honestos sobre como usam essa tecnologia.”

Stone.

A diretora associada do órgão de pesquisa em dados e IA, Imogen Parker, também expressou preocupações sobre a falta de transparência.

“A falta de transparência não mantém apenas o público no escuro, mas também significa que o setor público está operando às cegas em sua adoção de IA.”

Parker.

“Falhar em publicar registros de transparência algorítmica está limitando a capacidade do setor público de determinar se essas ferramentas funcionam, aprender com o que não funciona e monitorar os diferentes impactos sociais dessas ferramentas”, acrescentou Parker.