O plano de IA de Elon Musk para a Previdência Social está causando grandes problemas

Na sexta-feira, a Administração da Previdência Social lançou um novo chatbot no estilo ChatGPT chamado "Agency Support Companion". A ferramenta tinha como objetivo auxiliar os funcionários em tarefas rotineiras e aumentar a produtividade. Em vez disso, os funcionários dizem que ela praticamente não funciona, e um lançamento mal gerenciado deixou muitos em dúvida se a automação é o caminho certo para a maior agência de serviços sociais dos Estados Unidos.

Nos últimos meses, a organização de Musk, conhecida internamente como DOGE, reduziu drasticamente o número de agências federais, cortando empregos e orçamentos. A iniciativa em direção a um modelo "prioritário para a IA" visa substituir trabalhadores humanos por software sempre que possível. Como parte dessa estratégia, o novo chatbot foi integrado aos fluxos de trabalho diários dos funcionários das agências, conforme relatado pela Wired, com a promessa de aliviar sua carga de trabalho.

Um e-mail interno descreveu a ferramenta como uma forma de "auxiliar os funcionários em tarefas cotidianas e aumentar a produtividade", mas, na prática, o aplicativo recebeu pouca atenção.

Fontes internas da agência afirmam que o lançamento foi acompanhado por um vídeo de treinamento extremamente ruim, apresentando uma mulher com quatro dedos e animação grotesca. O vídeo deveria orientar os usuários sobre as funcionalidades do aplicativo, mas não alertou os funcionários sobre os riscos de enviar dados pessoais sensíveis. Essa falha obrigou a agência a enviar um e-mail complementar com os dizeres: "Pedimos desculpas pela falha em nosso vídeo de treinamento", alertando os funcionários sobre o risco.

Poucas pessoas levaram a sério o vídeo de treinamento de IA da SSA

“Não tenho certeza se a maioria dos meus colegas sequer assistiu ao vídeo de treinamento”, disse um funcionário da Previdência Social à Wired. Ele acrescentou que, ao testar o chatbot, “várias das respostas que recebi foram incrivelmente vagas e/ou imprecisas”. Outros funcionários teriam zombado dos gráficos rudimentares. “Ninguém que eu conheço está [usando]. É tão tosco e ruim”, disse a fonte.

Os críticos alertam que esse começo hesitante pode prenunciar fracassos mais amplos.

De forma semelhante, no Brasil, em 2018, uma empresa estatal chamada Dataprev lançou o Meu INSS, um aplicativo desenvolvido para processar solicitações de benefícios da previdência social utilizando visão computacional e processamento de linguagem natural. No entanto, o sistema frequentemente rejeita solicitações válidas devido a erros insignificantes, o que gera longos processos judiciais.

Um exemplo disso envolve Josélia de Brito, de 55 anos, ex-trabalhadora da cana-de-açúcar, cujo pedido de aposentadoria foi negado porque o sistema automatizado identificoudentseu gênero. “Tenho todos os documentos que comprovam meu estado de saúde, comprovando tudo, e [o benefício] ainda assim é negado. É uma humilhação”, disse ela ao Rest of World.

Os trabalhadores rurais, muitos dos quais carecem de habilidades digitais básicas, têm enfrentado dificuldades com a transição para os serviços online. “As pessoas aqui não conseguem [nem] usar o Gmail, o Facebook, o Instagram”, disse Francisco Santana,dent do Sindicato dos Trabalhadores Rurais da Barra do Corda. “Os processos estão se tornando cada vez mais automatizados, e a sociedade não estava preparada para isso, especialmente nas áreas mais afastadas, nos arredores, para as pessoas que vivem em zonas rurais.”

Esses obstáculos no exterior destacam potenciais armadilhas para os EUA.

Os serviços sociais já estão sob pressão para se "modernizarem", uma iniciativa que começou sob a gestão da equipe de supostos tecnocratas do governo Trump.

A DOGE de Musk levou essa missão adiante, buscando reduzir pela metade a força de trabalho federal. "Tudo o que puder ser automatizado por máquinas será. E os tecnocratas substituirão os burocratas", disse ao Washington Post uma pessoa familiarizada com os planos da DOGE.

A ênfase da DOGE na automação gerou mais confusão do que eficiência.

Um incidente recente na SSA ilustra a gravidade da situação. Funcionários do DOGE teriam marcado inúmeros beneficiários de auxílio-desemprego como "mortos", interrompendo seus pagamentos. "Cerca de 4 milhões de pessoas foram marcadas como mortas", disse Rennie Glasgow, analista técnico de longa data da agência, ao The Daily Beast. "Eles estão nos enviando um e-mail dizendo: 'Se essas pessoas comparecerem ao escritório com seusdentde identificação, vocês poderão reativar seus benefícios'." Esse processo de reativação pode levar de três a quatro dias, acrescentou Glasgow, já que os funcionários precisam "ressuscitar" manualmente cada beneficiário no sistema.

Além de suspender os benefícios, a DOGE também planeja reescrever todo o código-fonte do software da SSA em poucos meses. Fontes afirmam que, para cumprir esse prazo, a equipe quase certamente recorrerá à inteligência artificial para a programação, uma prática que exige supervisão rigorosa devido à alta taxa de erros em códigos gerados por máquinas.

DOGE tracproblemático o histórico até o momento, uma reformulação automatizada poderia introduzir ainda mais caos.

Alguns observadores suspeitam que esses erros possam ser intencionais. Uma corrente de críticos argumenta que o objetivo do DOGE não é uma reforma genuína, mas sim a desestabilização da SSA para abrir caminho para a privatização. Se for esse o caso, os erros e o caos podem ser exatamente o que a equipe de Musk almeja.