Mais de 600 funcionários do Google (GOOGL, GOOG) disseram a Sundar Pichai, na segunda-feira, para manter o Pentágono longe da inteligência artificial do Google para trabalhos confidenciais.
A carta partiu de funcionários da DeepMind e do Google Cloud, que mencionaram uma reportagem do The Information segundo a qual o Google e o Departamento de Defesa dos EUA estavam em negociações para usar o Gemini em sistemas confidenciais.
Funcionários do Google apresentam inúmeras razões para impedir que o programa Gemini realize trabalhos secretos no Pentágono
A carta começava com um aviso direto a Sundar, a quem os funcionários diziam: “Somos funcionários do Google profundamente preocupados com as negociações em andamento entre o Google e o Departamento de Defesa dos EUA. Como pessoas que trabalham com IA, sabemos que esses sistemas podem centralizar o poder e que cometem erros.”
Os funcionários disseram acreditar que sua proximidade com a tecnologia lhes confere "a responsabilidade de destacar e prevenir seus usos mais antiéticos e perigosos"
“Pedimos que se recusem a disponibilizar nossos sistemas de IA para cargas de trabalho confidenciais. Caso contrário, tais usos poderão ocorrer sem nosso conhecimento ou poder para impedi-los”, afirmaram os funcionários do Google. A carta explicava então que eles desejam que a IA ajude as pessoas, e não que promova o mal. Citaram armas autônomas letais e vigilância em massa como principais preocupações. Afirmaram também que os riscos vão além dessas duas áreas, pois o trabalho confidencial pode ocultar o que realmente está acontecendo.
O argumento deles era que, se o Google aceitasse cargas de trabalho militares secretas, os funcionários poderiam não ter como verificar o uso, questioná-lo ou impedi-lo, e a única garantia real seria rejeitar o trabalho confidencial antes que o acordo fosse fechado.
Eles também alertaram que a escolha errada poderia prejudicar o nome, os negócios e a posição da Google no mundo. Os funcionários disseram que sua própria segurança e infraestrutura crítica enfrentam ameaças constantes, enquanto vidas e direitos civis já estão em risco devido ao mau uso da tecnologia criada por pessoas como eles.
O Pentágono de Trump está forçando o acesso à inteligência artificial em larga escala para as forças armadas dos EUA
Líderes do Pentágono afirmaram que as Forças Armadas devem ter liberdade para usar IA comercial para "todos os usos legais". Autoridades dizem que essa frase dá ao governo margem para usar a tecnologia em diferentes casos, desde que permaneça dentro dos limites da legislação e das normas militares dos EUA.
Os profissionais de IA não consideram isso proteção suficiente. Sua preocupação aumentou devido à própria linguagem e às ações de Trump. No início deste mês, odent Donald Trump ameaçou bombardear “todas” as pontes e usinas de energia do Irã. Especialistas disseram ao The Post que tal ataque violaria o direito internacional. Os ataques de sua administração contra barcos que, segundo ela, transportavam drogas também foram questionados por especialistas em direito internacional.
A carta do Google chegou enquanto outras empresas de IA já estão envolvidas em disputas com o Pentágono. A Anthropic, empresa privada por trás do Claude, teve sua tecnologia instalada em sistemas militares dos EUA no ano passado. Essas ferramentas ajudaram a organizar dados edentpossíveis alvos.
o Pentágono cortou da Anthropic a todos os projetos do Departamento de Defesa. A empresa havia tentado incluir no contratotracque impediam o uso de sua IA para vigilância em massa ou armas autônomas letais.
A Anthropic e o governo estão agora em litígio judicial sobre a legalidade desse corte. Esse caso atraiu mais atenção para o Google e a OpenAI, porque ambos trabalham com as forças armadas dos EUA.
A OpenAI é uma empresa privada, portanto não possui ações negociadas em bolsa. Ela assinou um acordo em fevereiro para fornecer IA para cargas de trabalho confidenciais logo após a remoção do projeto Anthropic. Sam Altman, CEO da OpenAI, afirmou estardent que otraccom o governo impede o uso da IA para vigilância em massa e armas autônomas letais nos EUA.
O Google já passou por isso antes. Em 2018, funcionários protestaram contra um do Pentágono projetodentobjetos em imagens de drones. Centenas de pessoas assinaram uma petição contra o projeto, e o Google posteriormente optou por não renovar o contrato.
Após essa disputa, o Google criou um compromisso afirmando que sua tecnologia de IA não seria usada para armas ou vigilância. Mas a empresa passou os últimos anos buscando maistracmilitares. No ano passado, o Google removeu essas restrições. Em dezembro, assinou um acordo que permite ao Departamento de Defesa usar o Gemini.
