Apesar da Imaturidade da IA, Há uma Corrida para a Implementar em Combate

Recentemente, as manchetes concentraram-se nos avanços na inteligência artificial. Mas a IA existe há décadas, e continuará a ser uma grande parte de como a guerra será travada no futuro para uma variedade de aplicações militares e de defesa.

Não são apenas os militares; pode estar a ler este texto num dispositivo que já depende fortemente da inteligência artificial; assim, provavelmente já utilizou a IA de alguma capacidade mesmo antes do alvoroço recente. 

A IA muito provavelmente foi empregue em qualquer situação em que pagou por algo online, por exemplo, por comida ou entretenimento, utilizou o seu rosto ou impressão digital para desbloquear o seu telemóvel, interagiu nas redes sociais ou agendou viagens através de uma aplicação de telemóvel. 

Habituámo-nos à IA de várias formas, incorporando-a – muitas vezes sem nos darmos conta – nas nossas vidas diárias.

A IA Militar Existe Desde a Segunda Guerra Mundial

Embora as armas tenham sido capazes de tomar algumas decisões desde a Segunda Guerra Mundial, a inteligência artificial está agora a permitir-lhes tomar muito mais decisões e acabará por torná-las comuns. 

E se alguém fosse atacado e a sua identidade fosse determinada por tal software de reconhecimento facial? Em vez de identificar o melhor restaurante para comer, e se software semelhante guiasse aviões para lançar um ataque aéreo num alvo? 

Também leia: A adoção de sistemas militares de IA prevê uma virada sinistra na guerra?

Isto parece ser um problema muito grande até agora. A questão é, os sistemas de IA poderiam realmente estar a tomar decisões de vida ou morte por conta própria? A sua precisão não é perfeita e varia consoante a situação, e sabemos que nem sempre estão corretos.

Em zonas de conflito reais, a IA já está a escolher quais as pessoas a atingir, como Gaza e Ucrânia. Diz-se que Israel utilizou um sistema de inteligência artificial (IA) chamado Lavender, que tem aplicabilidade mínima de decisão humana, para selecionar possíveis alvos, levando a um número significativo de baixas civis, de acordo com investigação publicada no jornal israelita +972 Magazine.

As Máquinas Podem Fazer Isso Friamente

Recentemente, a Áustria realizou uma conferência para abordar regulamentações sobre armas de IA para lidar com os efeitos devastadores que podem ter. A IA já está a combater e a atingir humanos e os seus assentamentos. O Ministro dos Negócios Estrangeiros da Áustria, Alexander Schallenberg, disse,

"Não podemos deixar passar este momento sem tomar medidas. Agora é a altura de concordar em regras e normas internacionais para garantir o controlo humano."

Fonte: Reuters.

A tecnologia que muitos militares estão a implementar em zonas de guerra está ainda longe da maturidade e não está ainda a ser utilizada para decidir quem atingir. A tecnologia que chamamos inteligente ainda não é tão capaz como o cérebro de um gato; mesmo os especialistas dizem que se alcançarmos o nível de inteligência de um rato nos próximos anos, isso será uma grande conquista. 

Mas o nível de dependência dela é tão alto que é brutalmente implantada de uma forma que desumaniza tanto o alvo como aquele com o poder de fogo. Levanta questões sérias sobre preocupações morais, humanitárias e éticas. 

Como humanos, temos queixas, mas para evitar um soldado em luto, os militares podem agora usar esta nova arma, como +972 Magazine menciona uma fonte secreta de inteligência que disse,

"A máquina fez isso friamente. E isso tornou mais fácil."

Fonte: +972 Magazine.

É realmente importante que as pessoas estejam envolvidas no processo de seleção? Quando questionado por outro utilizador do Lavender, ele disse que nesse ponto dedicaria 20 segundos a cada alvo e completaria dezenas deles cada dia. Além de ser um selo oficial de aprovação, ele não tinha valor adicional como humano. Era bastante poupança de tempo.

É fácil entender o quanto poder de decisão estamos a entregar voluntariamente às máquinas.

Acordos Internacionais Ainda Estão Longe

Os Estados Unidos iniciaram esforços regulatórios através da implementação da Declaração Política sobre o Uso Militar Responsável de Inteligência Artificial e Autonomia. A proclamação inclui também a Austrália. Um acordo internacional, no entanto, está ainda muito longe.

A declaração menciona que garantir salvaguardas é essencial, como afirma,

"Os Estados devem implementar salvaguardas adequadas para mitigar os riscos de falhas nas capacidades de IA militar, como a capacidade de detetar e evitar consequências não intencionais e a capacidade de responder, por exemplo, desengajando ou desativando sistemas implantados, quando tais sistemas demonstrarem comportamento não intencional."

Fonte: Departamento de Estado dos EUA.

O documento também enfatiza que o uso da IA no militar “pode e deve ser” ético, além de melhorar a segurança internacional. Mas a realidade no terreno mostra um quadro completamente diferente, como discutido acima.

Encontrar e localizar pessoal militar inimigo é uma aplicação desses sistemas; com a inovação explosiva em andamento, não temos ideia de quais outros usos militares complexos podem surgir. 

Também leia: Kaspersky nega as alegações de ajudar o militar russo

O debate para excluir a IA da guerra não parece ser uma opção neste momento, mas os legisladores ao redor do mundo e os governos envolvidos em conflitos devem aderir à falta de capacidades que a IA tem e ao caos potencial que ela poderia causar aos seres humanos.

Atualmente, a formulação de políticas não está acompanhando o ritmo da inovação, e isso precisa ser abordado em certa medida, se não completamente, pois não podemos apenas sentar e dizer: uau! A IA fez mais 1.000 mortes. O que a IA apresentará? Ainda não sabemos, mas o que os formuladores de políticas devem fazer não é uma questão apenas para gênios.

Reportagem da Cryptopolitan por Aamir Sheikh