O Google removeu a promessa de não usar IA para armas e vigilância

O Google removeu um compromisso de seus princípios de inteligência artificial (IA), que anteriormente se comprometia a evitar o desenvolvimento de IA para armas e vigilância. A mudança, noticiada inicialmente pelo The Washington Post em 4 de fevereiro, sinaliza a abordagem da empresa em relação às parcerias de segurança nacional, à medida que a IA se torna mais integrada às operações militares e de inteligência.

Em uma postagem de blog publicada na terça-feira, executivos do Google afirmaram que a atualização era necessária devido à crescente prevalência da IA ​​e à necessidade de empresas de tecnologia sediadas em nações democráticas darem suporte a clientes governamentais e de defesa. 

Acreditamos que as democracias devem liderar o desenvolvimento da IA, guiadas por valores fundamentais como liberdade, igualdade e respeito aos direitos humanos. E acreditamos que empresas, governos e organizações que compartilham esses valores devem trabalhar juntos para criar uma IA que proteja as pessoas, promova o crescimento global e apoie a segurança nacional.

Google

Os princípios de IA anteriores da empresa, implementados em 2018, que rejeitavam explicitamente "armas ou outras tecnologias cujo principal objetivo ou implementação seja causar ou ferir diretamente pessoas" e "tecnologias que coletam ou usam informações para vigilância, violando normas internacionalmente aceitas", foram agora removidos do site de Princípios de IA.

O Google atualiza os princípios de IA para "segurança nacional"

Os princípios revisados ​​do Google agora afirmam que a empresa prosseguirá com o desenvolvimento de IA sempre que os "benefícios gerais prováveis ​​superarem substancialmente os riscos e desvantagens previsíveis". A atualização representa uma mudança notável em relação à sua posição anterior, que enfatizava amplas considerações éticas e a evitação de aplicações de IA que pudessem causar danos.

Além disso, os líderes da indústria tecnológica dos EUA parecem estar trabalhando para aprimorar as capacidades de IA do país, a fim de avançar na "guerra fria" tecnológica entre os Estados Unidos e a China. 

Na segunda-feira, o diretor de tecnologia da Palantir, Shyam Sankar, descreveu a corrida da IA ​​como um esforço "de toda a nação" que precisa ultrapassar os limites do Departamento de Defesa para que "os Estados Unidos vençam"

Durante anos, as restrições do Google às aplicações de IA para segurança nacional fizeram dele uma exceção entre as principais empresas de IA. Outras gigantes da tecnologia, incluindo Microsoft e Amazon, mantêm parcerias de longa data com o Pentágono, mas empresas de IA mais recentes estão se aproximando de laços com as forças armadas. 

No final do ano passado, a OpenAI, criadora do ChatGPT, anunciou uma colaboração com a empresa de defesatracpara desenvolver tecnologia de IA para as forças armadas dos EUA. Da mesma forma, a Anthropic, empresa por trás do chatbot Claude, firmou parceria com a Palantir para fornecer serviços de IA para agências de inteligência americanas por meio da Amazon Web Services.

Michael Horowitz, professor de ciência política na Universidade da Pensilvânia e ex-funcionário do Pentágono com amplo conhecimento em tecnologias emergentes, disse ao WP que a mudança na política do Google faz parte de uma tendência mais ampla. 

“O anúncio do Google é mais uma prova de que a relação entre o setor tecnológico dos EUA e o Departamento de Defesa continua a se estreitar, incluindo as principais empresas de IA”, disse ele. “Faz sentido que o Google tenha atualizado sua política para refletir a nova realidade.”

Controvérsia sobre ostracmilitares e de vigilância do Google

Em 2023, conforme noticiado pela CNN, o Google demitiu mais de 50 funcionários após uma série de protestos contra o Projeto Nimbus, um contrato conjunto de US$ 1,2 bilhãotraca Amazon para computação em nuvem e inteligência artificial, com o objetivo de fornecer serviços ao governo e às forças armadas israelenses. Os executivos defenderam repetidamente o acordo, afirmando que ele não violava os princípios de IA do Google.

No entanto, documentos revelados pelo The New York Times em dezembro sugeriram que o acordo do Google com Israel incluía recursos de IA, como categorização de imagens e trac, bem como possíveis disposições para fabricantes de armas estatais. 

Segundo o The Times, quatro meses antes de aderir ao Projeto Nimbus, executivos do Google já haviam manifestado, em conversas privadas, preocupações de que o acordo pudesse prejudicar a reputação da empresa e que seus serviços em nuvem pudessem estar ligados a violações de direitos humanos.

Ao mesmo tempo, o Google tem sido criticado por restringir discussões internas sobre conflitos geopolíticos, incluindo a guerra em Gaza. Alguns funcionários acusaram a empresa de suprimir o debate enquanto, simultaneamente, aprofundava seu envolvimento emtracde IA relacionados à defesa e vigilância.

Nas redes sociais, após a atualização dos princípios de IA do Google, internautas debatem se o plano da startup de tecnologia visa proteger os interesses dos americanos ou se é apenas uma manobra para abocanhar a maior cake dostracde defesa do governo.

"Então... a IA será usada para armamentos e vigilância dos EUA ou será vendida para o maior lance?" perguntou,