A ação antrópica defio ultimato brutal do Pentágono para eliminar as salvaguardas da IA

A Anthropic afirmou que não recuará na disputa com o Departamento de Defesa dos EUA (DoD) sobre como sua tecnologia de inteligência artificial (IA) é utilizada.

da startup concorrentes , OpenAI, Google e xAI, também receberamtracde até US$ 200 milhões do Departamento de Defesa dos EUA no ano passado. Essas empresas concordaram em permitir que o Departamento de Defesa utilize seus modelos para todos os fins legais dentro dos sistemas não classificados das Forças Armadas.

Em julho, a Anthropic assinou umtracde US$ 200 milhões com o Departamento de Defesa dos EUA e foi o primeiro laboratório a integrar seus modelos em fluxos de trabalho de missão em redes classificadas.

No entanto, a startup de inteligência artificial tem estado envolvida em negociações tensas com o Pentágono nas últimas semanas. Uma pessoa familiarizada com as negociações disse que as tensões "vêm de vários meses atrás", antes de se tornar público que Claude foi usado como parte de uma operação dos EUA para depor o presidente venezuelanodent Maduro.

A principal disputa gira em torno autônomas. das armas

A Anthropic quer garantias de que seus modelos não serão usados ​​para armas totalmente autônomas ou para vigilância doméstica em massa de cidadãos americanos, enquanto o Departamento de Defesa quer poder usar os modelos sem essas restrições.

Em relação a esses riscos específicos, Dario Amodei afirmou em seu comunicado: “em um conjunto restrito de casos, acreditamos que a IA pode minar, em vez de defender, os valores democráticos. Alguns usos também estão simplesmente fora dos limites do que a tecnologia atual pode fazer com segurança e confiabilidade.”

Aprofundando as preocupações com a vigilância, Dario Amodei afirmou em seu comunicado que a inteligência artificial poderosa torna possível "reunir esses dados dispersos e individualmente inócuos em um retrato abrangente da vida de qualquer pessoa, de forma automáticamaticem larga escala".

Ele observou que, embora a Anthropic apoie o uso de IA para inteligência estrangeira legítima, "usar esses sistemas para vigilância doméstica em massa é incompatível com os valores democráticos".

Ameaças, prazos e uma guerra de palavras

secretário de Defesa, Pete Hegseth, que se reuniu com Amodei no Pentágono na terça-feira, ameaçou classificar a Anthropic como um “risco para a cadeia de suprimentos” ou invocar a Lei de Produção de Defesa para forçar a empresa a atender às suas exigências. O Departamento de Defesa enviou à Anthropic sua “última e definitiva oferta” na noite de quarta-feira, dando à empresa até as 17h01 (horário do leste dos EUA) de sexta-feira para decidir.

Uma porta-voz da Anthropic afirmou que, embora a empresa tenha recebido uma versão atualizada do contrato na noite de quarta-feira, isso representou "praticamente nenhum progresso" e que "a nova linguagem, apresentada como umcompromisso, foi combinada com termos jurídicos que permitiriam que essas salvaguardas fossem desconsideradas à vontade".

Em resposta a essas pressões, Dario Amodei declarou :“O Departamento de Guerra afirmouquesó contratarátracde IA que concordem com 'qualquer uso legal' e removam as salvaguardas nos casos mencionados acima. Eles ameaçaram nos excluir de seus sistemas se mantivermos essas salvaguardas; também ameaçaram nos classificar como um ' risco para a cadeia de suprimentos'... Independentemente disso, essas ameaças não alteram nossa posição: não podemos, em sã consciência, acatar sua exigência.”

O porta-voz do Pentágono, Sean Parnell, afirmou na quinta-feira que o Departamento de Defesa "não tem interesse" em usar os modelos da Anthropic para armas totalmente autônomas ou para realizar vigilância em massa de cidadãos americanos, o que, segundo ele, é ilegal. Ele enfatizou que a agência quer que a empresa concorde em permitir que seus modelos sejam usados ​​para "todos os fins legais", chamando isso de "um pedido simples e de bom senso".

No entanto, o subsecretário de Defesa dos EUAEmil, Michael, atacou pessoalmente Amodei na noite de quinta-feira, escrevendo no X que o executivo "não quer nada mais do que tentar controlar pessoalmente as Forças Armadas dos EUA". Michael acrescentou: "É uma vergonha que Dario Amodei seja um mentiroso e tenha complexo de Deus"

Por outro lado, em uma carta aberta, mais de 200 funcionários do Google e da OpenAI apoiaram a posição da Anthropic. Um ex-funcionário do Departamento de Defesa também disse à BBC que as justificativas de Hegseth para usar o termo "risco da cadeia de suprimentos" eram "extremamente frágeis".

Apesar do conflito, Dario Amodei afirmou em seu comunicado que acredita "profundamente na importância existencial do uso da IA ​​para a defesa dos Estados Unidos". A organização continua "pronta para manter as negociações e comprometida com a continuidade operacional para o Departamento e os militares americanos", disse um representante da Anthropic.