Trump ordena que agências dos EUA parem o uso da IA da Anthropic após disputa de ética no Pentágono

O presidente dos EUA, Donald Trump, incluiu a Anthropic em uma lista negra, impondo uma proibição federal de sua tecnologia após um intenso desacordo entre a empresa de IA e o Pentágono sobre questões relativas à aplicação militar dessa tecnologia.

Neste momento, as negociações entre a Anthropic e o Departamento de Defesa estavam paralisadas, pois ambas as partes se recusavam a ceder, enquanto a data limite para chegar a um acordo se aproximava. No que diz respeito ao pedido do Pentágono, fontes disseram que funcionários da sede do Departamento de Defesa dos Estados Unidos exigiram que a Anthropic flexibilizasse suas diretrizes éticas; o não cumprimento poderia resultar em severas repercussões. 

Enquanto isso, Trump compartilhou uma publicação no Truth Social, delineando seu ponto de vista sobre o assunto. Na publicação, ele observou que: “Os extremistas de esquerda na Anthropic cometeram um ERRO DESASTROSO ao tentar FORÇAR o Departamento de Guerra a seguir seus Termos de Serviço em vez de nossa Constituição”, acrescentando ainda que: “NÓS determinaremos o futuro do nosso país – NÃO alguma empresa de IA radical e fora de controle liderada por pessoas que não entendem como é o mundo real”. Notavelmente, nesse momento, faltava apenas uma hora para o vencimento do prazo.

Disputa entre Anthropic e Pentágono desperta preocupações de segurança 

Anteriormente, a Anthropic recusou o pedido de funcionários do Pentágono de que contratistas concedessem aprovação para a utilização de seus sistemas para qualquer propósito lícito. Neste ponto, a empresa de IA recusou-se a relaxar as limitações que impediam Claude que fossem usados de forma eficaz para vigilância doméstica em massa ou para armas totalmente autônomas.

Dada a intensidade da situação, Trump caracterizou o incidente como uma ameaça significativa às tropas dos EUA e à segurança nacional. Em uma declaração, ele argumentou que: “O egoísmo deles está colocando vidas americanas em risco, nossas tropas em perigo e nossa segurança nacional em jogo.” 

Após o argumento de Trump, relatórios destacaram que Sam Altman, CEO da OpenAI, demonstrou esforços para acalmar as coisas. Mesmo assim, vários analistas admitiram que reduzir as tensões continua sendo uma tarefa difícil.

Por outro lado, Pete Hegseth, Secretário de Defesa dos Estados Unidos, argumentou que classificar a Anthropic como um risco na cadeia de suprimentos ameaçava encerrar a conexão entre fornecedores militares dos EUA e a empresa de IA.

Hegseth fez essas observações cerca de 24 horas após o CEO da Anthropic, Dario Amodei, emitir uma declaração alegando que sua empresa não pode cumprir o pedido do Departamento de Defesa. De acordo com ele, o pedido era contra a consciência da Anthropic.

Essa situação levou analistas a conduzirem pesquisas, que revelaram que a disputa de contrato de defesa gira em torno da IA na segurança nacional. Enquanto isso, após meses de diálogo privado, a empresa de IA decidiu recentemente tornar a discussão pública, observando que a nova linguagem do contrato, apresentada como uma concessão, foi redigida em jargão jurídico que efetivamente tornava as proteções declaradas suscetíveis a constante negligência.

IA generativa conquista popularidade entre várias empresas durante a era do boom da IA 

Em relação ao acirrado conflito entre a Anthropic e o Pentágono, os relatórios destacaram que o campo da IA generativa utiliza modelos avançados para criar código de software, texto, imagens e outras saídas realistas, mas imprecisas, que imitam de perto a criatividade humana. Para alcançar esse resultado, algumas fontes observaram que os modelos funcionam identificando padrões subjacentes nos dados de treinamento para produzir respostas conscientes do contexto às entradas do usuário.

Neste momento, vale notar que a IA generativa vai além da mera análise para gerar ativamente conteúdo. De acordo com a pesquisa dos analistas, essa capacidade poderia revolucionar inúmeras indústrias, incluindo a defesa. Ao mesmo tempo, o desenvolvimento desses modelos apresenta sérios desafios, incluindo preocupações éticas e potenciais riscos existenciais.

Mesmo assim, várias empresas demonstraram um forte compromisso em alocar fundos substanciais para o campo. Por exemplo, funcionários do Pentágono emitiram uma declaração no verão passado afirmando que haviam secured contratos individuais com grandes players da indústria, incluindo OpenAI, Anthropic, Google e xAI. Notavelmente, cada contrato foi relatado como tendo valor de US$ 200 milhões, particularmente para iniciativas de inteligência artificial de fronteira.

Neste momento específico, os relatórios destacam que a Anthropic se vê como uma empresa comprometida com o desenvolvimento e a implementação responsáveis de tecnologias de IA. Para sublinhar essa dedicação, a empresa se rotula como uma “Corporação de Benefício Público”, afirmando seu compromisso de desenvolver e manter uma IA avançada e segura para o benefício duradouro da humanidade.