A Anthropic desafia ultimato brutal do Pentágono para remover salvaguardas de IA

A Anthropic tem disse não recuará em uma disputa com o Departamento de Defesa dos EUA (DoD) sobre como sua tecnologia de inteligência artificial (IA) é utilizada.

Os concorrentes da startup, OpenAI, Google e xAI também receberam contratos de até US$ 200 milhões do Departamento de Defesa (DoD) no ano passado. Essas empresas concordaram em permitir que o DoD usasse seus modelos para todos os fins lícitos dentro dos sistemas não classificados do exército.

A Anthropic assinou seu próprio contrato de US$ 200 milhões com o DoD em julho, sendo o primeiro laboratório a integrar seus modelos em fluxos de trabalho de missões em redes classificadas.

No entanto, a startup de inteligência artificial tem sido envolvida em negociações tensas com o Pentágono nas últimas semanas. Uma pessoa familiarizada com as negociações disse que as tensões “remontam a vários meses”, antes de ser publicamente conhecido que o Claude foi usado como parte de uma operação dos EUA para apreender o presidente venezuelano Nicolás Maduro.

O cerne da disputa devido a vigilância e armas autônomas armas

A Anthropic deseja garantias de que seus modelos não serão usados para armas totalmente autônomas ou para vigilância doméstica em massa dos americanos, enquanto o DoD quer poder usar os modelos sem essas restrições.

Em relação a esses riscos específicos, Dario Amodei afirmou em seu comunicado: “em um conjunto restrito de casos, acreditamos que a IA pode minar, em vez de defender, os valores democráticos. Alguns usos também estão simplesmente fora dos limites do que a tecnologia atual pode fazer de forma segura e confiável.”

Expandindo as preocupações com vigilância, Dario Amodei disse em sua declaração que a IA poderosa torna possível “montar esse dados dispersos, individualmente inofensivos, em uma imagem abrangente da vida de qualquer pessoa, automaticamente e em escala massiva.”

Ele observou que, embora a Anthropic apoie o uso da IA para inteligência estrangeira lícita, “o uso desses sistemas para vigilância doméstica em massa é incompatível com os valores democráticos.”

Ameaças, prazos e uma guerra de palavras

O Secretário de Defesa Pete Hegseth, que se reuniu com Amodei no Pentágono na terça-feira, ameaçou classificar a Anthropic como um “risco na cadeia de suprimentos” ou invocar a Lei de Produção de Defesa para forçar a empresa a cumprir suas exigências. O Departamento de Defesa enviou à Anthropic sua “oferta final e definitiva” na noite de quarta-feira, dando à empresa até as 17h01 (horário do Leste dos EUA) na sexta-feira para decidir.

Uma porta-voz da Anthropic disse que, embora a empresa tenha recebido uma redação atualizada na noite de quarta-feira, isso representou “virtualmente nenhum progresso” e que “a nova linguagem, que apresentava umcompromisso, foi acompanhada por juridiquês que permitiria que essas salvaguardas fossem ignoradas a qualquer momento.”

Respondendo a essas pressões, Dario Amodei afirmou em seu comunicado: “O Departamento de Guerra afirmou que só contratará empresas de IA que aceitem ‘qualquer uso lícito’ e removam as salvaguardas nos casos mencionados acima. Eles ameaçaram nos remover de seus sistemas se mantivermos essas salvaguardas; também ameaçaram nos designar como um ‘risco na cadeia de suprimentos … Independentemente disso, essas ameaças não mudam nossa posição: não podemos, em boa consciência, atender ao seu pedido.”

O porta-voz-chefe do Pentágono, Sean Parnell, disse na quinta-feira que o DoD “não tem interesse” em usar os modelos da Anthropic para armas totalmente autônomas ou para conduzir vigilância em massa dos americanos, o que ele observou ser ilegal. Ele enfatizou que a agência deseja que a empresa concorde em permitir que seus modelos sejam usados para “todos os fins lícitos”, chamando isso de um “pedido simples e de bom senso.”

No entanto, o Subsecretário de Defesa Emil Michael atacou pessoalmente Amodei na noite de quinta-feira, escrevendo no X que o executivo “não quer nada mais do que tentar controlar pessoalmente as Forças Armadas dos EUA”. Michael acrescentou: “É uma pena que Dario Amodei seja um mentiroso e tenha um complexo de Deus.”

Por outro lado, em uma carta aberta, mais de 200 funcionários do Google e da OpenAI apoiaram a posição da Anthropic. Um ex-funcionário do Departamento de Defesa também disse à BBC que as justificativas de Hegseth para usar o termo “risco na cadeia de suprimentos” eram “extremamente frágeis.”

Apesar do conflito, Dario Amodei afirmou em seu comunicado que está “profundamente comprometido com a importância existencial do uso da IA para defender os Estados Unidos”. A organização ainda está “pronta para continuar as negociações e comprometida com a continuidade operacional para o Departamento e para os combatentes da América”, disse um representante da Anthropic.