O que acontece quando algoritmos assassinos ultrapassam o direito internacional?

O uso descuidado de algoritmos de inteligência artificial pode ter impactos negativos na humanidade que nem sequer imaginamos. Apesar dos grandes avanços da IA ​​nos últimos dois anos, ainda não existem regulamentações globais para prevenir os efeitos nocivos de algoritmos perigosos. 

Muitos países estão integrando inteligência artificial em seus sistemas militares para reconhecimento de alvos e aumento da capacidade de fogo, mas seu uso indiscriminado é devastador. O impacto negativo da IA ​​também é claramente visível na perturbação dos processos democráticos, por meio da tentativa de alterar a opinião pública com alegações falsas e desinformação.

Algoritmos assassinos ceifando vidas inocentes

Recentemente, vimos anúncios de integração de IA em sistemas militares de muitos países, e um número considerável de empresastracpelo setor militar lançando seus sistemas de mira e disparo aprimorados por IA, desde drones a sistemas de radar, além de sistemas de vigilância para o reconhecimento de alvos humanos. 

O exemplo mais descuidado de implantação de armas foi o de Israel, que teve como alvo a população de Gaza através da geração de listas de alvos por meio de algoritmos assassinos, frequentemente falhos ou utilizados com negligência criminosa, resultando na morte de dezenas e centenas de civis inocentes, tendo como alvo principal um indivíduo supostamente específico. Imagine a devastação causada à população civil de Gaza, com a morte de milhares de crianças e mulheres, como afirmou um oficial, que a máquina agiu com frieza. Sério? Matar civis a sangue frio é a realidade da crueldade que os algoritmos assassinos podem alcançar.

Uma investigação recente da publicação israelense +972 Magazine revelou fatos alarmantes sobre o uso de inteligência artificial pelas forças israelenses em ataques aéreos. O sistema conhecido como Lavender foi utilizado para gerar listas com milhares de suspeitos de militância, e outro sistema, chamado Gospel, para selecionar prédios e infraestrutura como alvos. A estratégia utilizada consistia em alvejar indivíduos do Hamas mesmo que estivessem em suas casas, localizadas em bairros civis, matando centenas de civis no processo. 

O relatório inclui entrevistas com seis fontes da inteligência israelense, cujos nomes foram mantidos em segredo para proteger a identidade das fontes. As fontes alegaram o uso do Lavender, juntamente com outros sistemas de IA, para a seleção de alvos. Elas também discutiram a leniência nas regulamentações para o uso desses sistemas e sua estimativa do número de civis mortos ou que tiveram suas mortes permitidas como dano colateral, com cada oficial do Hamas, de alto ou baixo escalão, tendo seu número de vítimas variando de dois a três dígitos. 

Mas os números reais parecem estar ultrapassando em muito essas estimativas permitidas, que já eram as mais altas em comparação com eventos de guerra moderna em todo o mundo. O número de crianças mortas durante os três primeiros meses da guerra também excedeu o número de crianças mortas em guerras ao redor do mundo. É de partir o coração só de pensar nelas.

A regulamentação global ainda carece de

Apesar de algoritmos de IA assassinos estarem matando pessoas em guerras, parece não haver esforços suficientes por parte dos líderes mundiais para deter essa ameaça. Não existe um conjunto de regulamentações globais para o uso de IA em guerras, apesar de matar pessoas e danificar infraestruturas cruciais, privando a população civil de suas necessidades humanas básicas, ser um claro crime de guerra. 

O que vemos é uma demonstração de apoio superficial por parte dos líderes globais, seguida por mais uma doação de armas dos EUA, que podem ser usadas em conjunto com os tais algoritmos assassinos baseados em IA. A única ação legal foi a da África do Sul recorrer ao Tribunal Internacional de Justiça por crimes de guerra contra Israel.

As forças armadas de todo o mundo estão tentando aproveitar a inteligência artificial, e muitos países buscam obter vantagem militar com a implantação desses sistemas. As tensões geopolíticas também impulsionam esses avanços, com países que vão dos EUA à China correndo para desenvolver sistemas de IA para seleção de alvos e tomada de decisões, visando acelerar os processos. 

Até o momento, as alegações se concentram em maior precisão e menos danos civis com a implementação da inteligência artificial, mas a realidade contradiz essas alegações, e os riscos de algoritmos letais superam em muito as promessas de precisão, o que exige esforços robustos para a regulamentação da IA ​​em nível global.

Os relatórios da revista +972 podem ser encontrados aqui.