Cúpula de IA do Governo do Reino Unido: Promessas vs. Realidade diante das Ameaças Atuais e Futuras

A recente cúpula de IA liderada pelo Chanceler do Reino Unido, Rishi Sunak, trouxe atenção global às ambições do Reino Unido em inteligência artificial. Embora a cúpula enfatizasse a importância de se proteger contra riscos futuros da IA, ela falhou em abordar a questão premente dos danos gerados pela IA que já afetam a sociedade. 

Os danos presentes negligenciados

Agências de aplicação da lei e empresas privadas têm implantado cada vez mais sistemas de vigilância por reconhecimento facial, apesar de suas alarmantes taxas de imprecisão. Esses sistemas, sustentados por algoritmos falhos, têm discriminado desproporcionalmente mulheres e pessoas de cor. A tecnologia de reconhecimento facial imprecisa exacerba tensões e desconfiança entre a polícia e o público, como testemunhado após eventos como os protestos do Black Lives Matter e a vigília por Sarah Everard.

Além disso, o governo integrou profundamente a IA em modelos de serviço público, com algoritmos ocultos tomando decisões críticas sobre aspectos fundamentais da vida pública. O fiasco da classificação dos exames A-level é um lembrete nítido do caos que algoritmos defeituosos podem causar, deixando inúmeros estudantes com resultados arbitrários. O Departamento de Trabalho e Pensões também foi criticado por usar algoritmos secretos, invasivos e discriminatórios que impactam o acesso das pessoas a habitação, benefícios e apoio ao imposto municipal. Esses algoritmos automatizam o viés e desfavorecem os pobres da Grã-Bretanha, destacando as consequências no mundo real da IA descontrolada nos serviços públicos.

Regulamentação futura da IA e a lei de proteção de dados

Embora as discussões sobre a regulamentação da IA no futuro sejam cruciais, é igualmente essencial abordar os problemas atuais e mitigar os danos causados pelos sistemas de IA existentes. As leis de direitos humanos e proteção de dados permanecem como as salvaguardas mais eficazes contra as ameaças da IA. No entanto, o governo do Reino Unido está promovendo uma Lei de Proteção de Dados no Parlamento que ameaça minar essas proteções fundamentais.

A Lei de Proteção de Dados desvia-se das tendências de regulamentação de IA na Europa e reduz as salvaguardas legais, deixando o público exposto ao impacto discriminatório da IA. Ela ameaça normalizar a tomada de decisões automatizadas em massa, aumentando a probabilidade de decisões sobre indivíduos baseadas apenas em previsões binárias, sem envolvimento humano, empatia ou dignidade. Comunidades vulneráveis e marginalizadas estão em risco de serem desproporcionalmente afetadas por esses desenvolvimentos, pois sua privacidade e igualdade estão em perigo.

A necessidade de ação

O governo do Reino Unido enfrenta uma escolha crítica em relação às suas políticas de IA. Embora as promessas de cúpulas de alto nível enfatizem a importância das proteções futuras da IA, o governo deve priorizar o enfrentamento das ameaças atuais da IA. Meros gestos performativos não serão suficientes; as salvaguardas legais devem ser protegidas e reforçadas.

A cúpula de IA do Reino Unido, liderada por Rishi Sunak, trouxe atenção global às ambições do país no campo da IA. Embora o foco do governo nos riscos futuros da IA seja essencial, ele não deve ignorar os danos no mundo real gerados pelos sistemas de IA existentes. As imprecisões do reconhecimento facial e os algoritmos governamentais ocultos já estão impactando a sociedade, levando à discriminação, desconfiança e resultados arbitrários. Além disso, a proposta Lei de Proteção de Dados ameaça minar os direitos humanos e as leis de proteção de dados, expondo ainda mais o público a riscos relacionados à IA. O governo deve priorizar a ação em vez da retórica, salvaguardando as proteções legais já existentes e abordando os desafios prementes impostos pela IA no presente. Ao buscar a liderança global em IA, o Reino Unido não deve esquecer as batalhas imediatas que enfrenta para se proteger contra ameaças automatizadas e proteger seus cidadãos.