A adoção de sistemas militares de IA por Israel prenuncia uma virada sinistra na guerra?

Israel é acusado dedentalvos para ataques aéreos em Gaza usando um sistema de inteligência artificial, possibilitando assim o massacre de vários civis. Segundo uma investigação recente da revista israelense +972 Magazine e do site Local Call, o exército israelense teria utilizado um banco de dados com inteligência artificial chamado Lavender para criar uma lista de 37.000 possíveis alvos com aparentes ligações ao Hamas.

Mais de 33.000 palestinos morreram em Gaza desde 7 de outubro, e seis fontesdentidentificadas da inteligência israelense, que falaram com o +972, afirmaram que comandantes militares israelenses utilizaram a lista de alvos para aprovar ataques aéreos que resultaram em um número excepcionalmente alto de vítimas civis.

Os estragos da guerra e dos sistemas militares de IA

Sistemas militares baseados em inteligência artificial (IA), como o software israelense Lavender, têm causado ainda mais devastação em zonas de conflito como Gaza. Reconhecido por sua incrível capacidade de detectar membros do Hamas, o Lavender se tornou uma arma de dois gumes que atinge comunidades civis e destrói vidas em seu caminho. A taxa de precisão declarada de 90% esconde a terrível realidade de como essa tecnologia, quando usada de forma descuidada, pode matar inocentes apanhados no fogo cruzado.

Uma fonte disse à 972mag que,

“Solicitaram-nos que procurássemos edifícios altos com meio andar que pudessem ser atribuídos ao Hamas.”

Fonte: +972mag

Como é sabido, a inteligência artificial opera com base em diversos fatores, e a precisão desses parâmetrosdent de seu ajuste fino. Altere os parâmetros dos dados e o computador começará a nos apresentar uma variedade de policiais e agentes da defesa civil contra os quais seria inadequado usar bombas, disse outra fonte.

Outro critério duvidoso era se os celulares eram trocados regularmente; a maioria dos habitantes de Gaza lidava diariamente com o caos social da guerra. Qualquer indivíduo que auxiliasse o Hamas sem receber pagamento ou que tivesse sido membro anteriormente também era considerado suspeito pelo algoritmo.

Conforme relatado pela fonte da 971mag,

“Cada uma dessas características é imprecisa”

Fonte: +972mag

O dilema ético da automação no campo de batalha

Os profundos problemas éticos relacionados à guerra conduzida por inteligência artificial tornam-se cada vez mais urgentes à medida que a fumaça das zonas de combate se dissipa. Outrora saudada como um fator de dissuasão à automação desenfreada, a ideia de "humanos no circuito" é hoje vista como uma tênue linha que separa os julgamentos algorítmicos de suas implicações práticas. Uma visão perspicaz do pensamento daqueles encarregados de supervisionar as complexidades da guerra moderna é oferecida pelos depoimentos de comandantes israelenses que debatem as consequências morais da violência possibilitada pela inteligência artificial.

Desde que se tornou evidente o quão desastrosos podem ser os conflitos impulsionados por IA, uma preocupação tem pairado na mente das pessoas: será que os humanos realmente podem se dar ao luxo de dar às máquinas a vantagem em questões de vida ou morte? A responsabilidade moral e a gestão responsável são mais cruciais do que nunca, à medida que as nações lidam com as consequências morais da automação e o perigo real da violência facilitada por IA. Os perigos do crescimento tecnológico desenfreado são ilustrados de forma contundente pelas lições da história em um mundo à beira de um novo e terrível período de guerra.