O secretário de Tecnologia afirma que o governo do Reino Unido não é transparente quanto ao uso de inteligência artificial

Segundo relatos, o governo do Reino Unido não está incluindo o uso de sistemas de IA em registros obrigatórios, o que levanta preocupações sobre questões de transparência.

Segundo o The Guardian, o Secretário de Tecnologia admitiu que os departamentos não são transparentes quanto ao uso de IA e algoritmos, apesar de vários departamentos governamentais os utilizarem para diferentes fins.

Departamentos do governo do Reino Unido “voam às cegas” em relação ao uso de IA

O artigo do The Guardian revela que nenhum departamento listou o uso de IA desde que o governo indicou que ela se tornaria obrigatória. Isso gerou preocupações de que o setor público esteja "voando às cegas".

Isso ocorre em um momento em que departamentos governamentais no Reino Unido já estão usando IA, por exemplo, para embasar decisões sobre tudo, desde o pagamento de benefícios até a fiscalização da imigração. Segundo o The Guardian, alguns registros mostram que órgãos públicos concederamtracpara serviços algorítmicos de IA.

Por exemplo, o órgão de compras da polícia lançou recentemente umtracpara reconhecimento facial no valor de 20 milhões de dólares, aumentando ainda mais as preocupações sobre a "vigilância biométrica em massa"

No entanto, apenas nove sistemas algorítmicos foram submetidos a um registro público, e nenhum deles consta do crescente número de programas de IA utilizados no sistema de assistência social pelo Ministério do Interior ou pela polícia. Em fevereiro, o governo do Reino Unido anunciou que o uso de registros de IA passaria a ser um “requisito para todos os departamentos governamentais”.

Questionado sobre a falta de transparência, o Secretário de Estado para a Ciência e Tecnologia, Peter Kyle, admitiu que o setor público "não levou suficientemente a sério a necessidade de ser transparente na forma como o governo utiliza algoritmos"

“Aceito que, se o governo está usando algoritmos em nome do público, o público tem o direito de saber.”

Kyle.

“O público precisa sentir que os algoritmos estão aí para servi-los e não o contrário. A única maneira de fazer isso é ser transparente sobre o seu uso”, acrescentou Kyle.

O governo do Reino Unido ignorou os avisos

Segundo o artigo do The Guardian, especialistas alertaram para os perigos da IA ​​se adotada sem senso crítico, com exemplos recentes de sistemas de TI que não funcionam como esperado, incluindo o software Horizon dos Correios.

O uso da tecnologia de IA em Whitehall abrange desde o sistema Copilot da Microsoft até verificações automatizadas de fraude e erros no sistema de benefícios. Outro aviso recente detracde IA do Departamento de Trabalho e Pensões (DWP) descreveu "um crescente interesse dentro do DWP, que reflete o do governo e da sociedade em geral"

Além da polícia, o Ministério do Interior também utiliza um sistema de fiscalização de imigração com inteligência artificial. Esse sistema, que os críticos chamam de "assistente médico robô", participa de decisões, incluindo a repatriação de pessoas para seus países de origem.

O governo, no entanto, descreveu-o como um sistema "baseado em regras", em oposição a um sistema de IA, porque não envolve aprendizado de máquina a partir de dados. Segundo o governo, isso traz eficiência, embora um ser humano continue sendo responsável por cada decisão.

O NHS England também teria firmado umtracde 330 milhões de libras com a Palantir para construir uma nova e enorme plataforma de dados, o que aumenta ainda mais as preocupações com a privacidade dos pacientes. A Palantir afirmou que os pacientes mantêm o controle de seus dados.

O grupo de defesa dos direitos à privacidade Big Brother Watch destacou que o surgimento do contrato de reconhecimento facial da políciatracapesar dos alertas dos parlamentares sobre a falta de legislação para regulamentá-lo, demonstra a falta de transparência do governo em relação ao uso da tecnologia de IA.

“O uso secreto de IA e algoritmos para impactar a vida das pessoas coloca em risco os direitos de dados de todos”, disse Madeleine Stone, diretora de defesa de direitos.

“Os departamentos governamentais devem ser abertos e honestos sobre como utilizam essa tecnologia.”

Pedra.

Imogen Parker, diretora associada do órgão de pesquisa em dados e IA, também expressou preocupação com a falta de transparência.

“A falta de transparência não apenas mantém o público no escuro, como também significa que o setor público está navegando às cegas na adoção da IA.”

Parker.

“A falta de publicação dos registros de transparência algorítmica limita a capacidade do setor público de determinar se essas ferramentas funcionam, aprender com o que não funciona e monitorar os diferentes impactos sociais dessas ferramentas”, acrescentou Parker.