Preocupações éticas aumentam sobre o papel da IA Grok no governo dos EUA

O Departamento de Eficiência Governamental (DOGE) de Elon Musk lançou silenciosamente uma versão adaptada de seu chatbot de IA Grok em agências federais, levantando alarmes sobre possíveis violações de privacidade e conflitos de interesse.

Reuters citou três fontes dentro do DOGE dizendo que a equipe tem usado o Grok para filtrar e analisar dados governamentais sensíveis, gerando relatórios e insights em velocidades além dos métodos tradicionais.

DOGE viola a ética com o movimento da IA Grok

De acordo com as três fontes internas, os engenheiros do DOGE instalaram parâmetros personalizados no topo do Grok, um chatbot lançado pela xAI de Musk no final de 2023, para acelerar a revisão de dados e automatizar a escrita de relatórios.

“Eles alimentam o sistema com conjuntos de dados governamentais, fazem perguntas complexas e recebem resumos instantâneos.”

Um Insider.

Outro insider acrescentou que os funcionários do DOGE incentivaram os funcionários do Departamento de Segurança Interna (DHS) a usar o Grok para análises internas, apesar da ferramenta não ter aprovação formal da agência.

O que não está claro é exatamente quais informações classificadas ou pessoalmente identificáveis foram carregadas no Grok ou o quanto ele foi treinado em registros federais. Se materiais sensíveis fossem incluídos, a prática poderia violar estatutos federais de privacidade e regras de conflito de interesses.

Cinco especialistas em ética e tecnologia alertam que tal acesso pode dar às empresas de Musk insights desproporcionais sobre dados de contratação não públicos e até ajudar a refinar o próprio Grok para ganho privado.

Em teoria, qualquer modelo de IA treinado em conjuntos de dados governamentais confidenciais deve navegar por rigorosas salvaguardas legais. Protocolos de compartilhamento de dados normalmente envolvem múltiplas aprovações e supervisão para evitar divulgação não autorizada.

Ao contornar essas verificações, o DOGE corre o risco de expor os detalhes pessoais de milhões de americanos e entregar à xAI um tesouro de informações do mundo real indisponíveis para concorrentes.

O DOGE insiste que sua missão é erradicar desperdício, fraude e abuso. Um porta-voz do DHS disse à Reuters que o DOGE nunca pressionou os funcionários a adotar qualquer ferramenta específica.

“Estamos focados na eficiência”, disse o porta-voz. Mas duas fontes contrariam isso, afirmando que, nas últimas semanas, representantes do DOGE pressionaram divisões do DHS para testar o Grok para tarefas que vão desde a análise de carga de casos de imigração até a previsão orçamentária, mesmo após o DHS bloquear abruptamente todas as plataformas de IA comercial por medo de vazamento de dados.

De acordo com a política atual do DHS, os funcionários podem usar chatbots comerciais apenas para trabalho não classificado e não confidencial, enquanto uma IA personalizada do DHS lida com registros sensíveis. Mas quando o ChatGPT e outros foram desativados em maio, os avanços do DOGE ocorreram em uma zona cinzenta legal: o bot interno do DHS permaneceu ativo, mas o Grok nunca foi formalmente integrado.

Musk está usando o DOGE para centralizar o controle?

Além do DHS, o alcance do DOGE se estende às redes do Departamento de Defesa, onde cerca de uma dúzia de analistas foram informados de que uma ferramenta de IA de terceiros estava monitorando suas atividades. Embora os porta-vozes do DoD tenham negado que o DOGE orientou qualquer implantação de IA, e-mails e trocas de mensagens de texto do departamento obtidos pela Reuters sugerem o contrário.

Críticos veem esses movimentos como ilustrativos da estratégia mais ampla de Musk de alavancar a IA para centralizar o controle sobre a burocracia e depois monetizar o fluxo de dados resultante.

“Há uma clara aparência de autopromoção.”

Richard Painter, professor de ética governamental.

Se Musk ordenou diretamente a implantação do Grok, ele pode estar violando estatutos criminais que proíbem funcionários de influenciar decisões que beneficiem seus interesses privados.

No centro do debate está o papel duplo do Grok como um chatbot voltado para o público no X e um motor de análise experimental dentro dos firewalls do governo. O site da xAI até sugere que as interações dos usuários podem ser monitoradas “para fins comerciais específicos”, sugerindo que cada consulta federal pode alimentar o loop de aprendizado do Grok.

Dois funcionários do DOGE, Kyle Schutt e Edward Coristine, este último conhecido online como “Big Balls”, lideraram grande parte da iniciativa de IA. Embora tenham recusado comentar, seus esforços se encaixam em um padrão; ao longo do último ano, o DOGE demitiu milhares de funcionários de carreira, assumiu o controle de bancos de dados seguros e defendeu a IA como a ferramenta definitiva para a reforma burocrática.

Defensores da privacidade alertam que a integração de IA não avaliada em ambientes de segurança nacional de alto risco é uma receita para vazamentos de dados, roubo de identidade e exploração por adversários estrangeiros.

“Isso é uma ameaça à privacidade tão séria quanto você pode obter”, diz Albert Fox Cahn do Surveillance Technology Oversight Project.

Também há temores de que, com pouca transparência e poucas salvaguardas, o experimento de IA do DOGE possa remodelar a governança de dados federais, quer o público perceba ou não.