Pentágono dos EUA intensifica conversas com principais empresas de IA sobre a implantação de ferramentas em sistemas classificados

O Pentágono está exercendo pressão real sobre as principais empresas de inteligência artificial para que concedam ao exército dos EUA acesso às suas ferramentas dentro de sistemas classificados.

Os funcionários não estão apenas pedindo acesso básico. Eles querem que esses modelos de IA funcionem sem todos os limites habituais que as empresas impõem aos usuários.

Durante uma reunião na Casa Branca na terça-feira, Emil Michael, o Diretor de Tecnologia do Pentágono, disse aos líderes de tecnologia que o exército deseja que esses modelos de IA sejam executados em redes classificadas e não classificadas.

Um funcionário próximo às negociações alegou que o governo agora está determinado a obter o que chama de “capacidades de IA de fronteira” em todos os níveis de uso militar.

Pentágono exige acesso sem restrições em redes seguras

Este impulso faz parte de conversas maiores sobre como a IA será usada em combates futuros. As guerras já estão sendo moldadas por enxames de drones, robôs e ciberataques contínuos. O Pentágono não quer ficar atrás enquanto o mundo da tecnologia traça linhas sobre o que é permitido.

No momento, a maioria das empresas que trabalham com o militar está oferecendo versões diluídas de seus modelos. Esses só funcionam em sistemas abertos e não classificados usados para trabalho administrativo. Anthropic é a única exceção.

O Claude, seu chatbot, pode ser usado em alguns ambientes classificados, mas apenas por meio de plataformas de terceiros. Mesmo assim, os usuários do governo ainda precisam seguir as regras da Anthropic.

O que o Pentágono quer é acesso direto dentro de redes classificadas altamente sensíveis. Esses sistemas são usados para coisas como planejamento de missões ou definição de alvos. Não está claro quando ou como chatbots como o Claude ou o ChatGPT seriam instalados nessas redes, mas esse é o objetivo.

Os funcionários acreditam que a IA pode ajudar a processar enormes quantidades de dados e alimentá-los rapidamente aos tomadores de decisão. Mas se essas ferramentas gerarem informações falsas, e elas fazem, as pessoas podem morrer. Os pesquisadores alertaram exatamente sobre isso.

OpenAI fez um acordo com o Pentágono esta semana. O ChatGPT agora será usado em uma rede não classificada chamada genai.mil. Essa rede já atinge mais de 3 milhões de funcionários em todo o Departamento de Defesa.

Como parte do acordo, a OpenAI removeu muitos de seus limites normais de uso. Ainda existem algumas salvaguardas em vigor, mas o Pentágono conseguiu a maior parte do que queria.

Um porta-voz da empresa disse que qualquer expansão para uso classificado precisaria de um novo acordo. Google e a xAI de Elon Musk fizeram acordos semelhantes no passado.

Pesquisadores de IA estão renunciando e denunciando os riscos

As negociações com a Anthropic não foram tão fáceis. Os líderes da empresa disseram ao Pentágono que não querem que sua tecnologia seja usada para mira automática ou espionagem de pessoas dentro dos EUA.

Embora o Claude já esteja sendo usado em algumas missões de segurança nacional, os executivos da empresa estão resistindo. Em um comunicado, um porta-voz disse:-

“A Anthropic está comprometida em proteger a liderança da América em IA e ajudar o governo dos EUA a combater ameaças estrangeiras, fornecendo aos nossos combatentes acesso às capacidades de IA mais avançadas.”

Eles disseram que o Claude já está em uso e que a empresa ainda está trabalhando em estreita colaboração com o que agora é chamado de Departamento de Guerra. O presidente Donald Trump ordenou recentemente que o Departamento de Defesa adotasse esse nome, mas o Congresso ainda precisa aprovar.

Enquanto tudo isso acontece, vários pesquisadores dessas empresas estão saindo. Um dos principais pesquisadores de salvaguardas da Anthropic disse: “O mundo está em perigo”, ao renunciar. Um pesquisador da OpenAI também saiu, dizendo que a tecnologia tem “um potencial de manipular os usuários de maneiras que não temos ferramentas para entender, muito menos prevenir.”

Algumas das pessoas que estão saindo não estão fazendo isso em silêncio. Elas estão alertando que as coisas estão avançando rápido demais e que os riscos estão sendo ignorados. Zoë Hitzig, que trabalhou na OpenAI por dois anos, renunciou nesta semana.

Em um ensaio, ela disse que tinha “grandes reservas” sobre como a empresa planeja introduzir anúncios. Ela também disse que o ChatGPT armazena dados privados das pessoas, coisas como “medos médicos, problemas de relacionamento, crenças sobre Deus e a vida após a morte.”

Ela disse que isso é um grande problema porque as pessoas confiam no chatbot e não acham que ele tenha motivos ocultos.

Por volta da mesma época, o site de tecnologia Platformer relatou que a OpenAI eliminou sua equipe de alinhamento de missão. Esse grupo foi criado em 2024 para garantir que o objetivo da empresa de construir uma IA que ajude toda a humanidade realmente significasse algo.