As armas autônomas são uma fonte de desumanização?

Uma conferência de dois dias sobre o tema dos sistemas de armas autônomas foi sediada pelo governo austríaco, onde especialistas em tecnologia militar e delegados de 143 países se reuniram para discutir o impacto dessas armas e a necessidade urgente de regulá-las.

Armas autônomas têm tendência à desumanização

Durante a conferência, os especialistas falaram em detalhes sobre os desafios morais, legais, humanitários e éticos que surgiram das armas impulsionadas por inteligência artificial, junto com o aspecto mais importante de seu efeito na dignidade humana. Os especialistas argumentam que o uso de armas de IA desumanizará tanto o alvo quanto o operador.

Enfatizando a necessidade de regular este lado das operações militares, o ministro das Relações Exteriores anfitrião da Áustria, Alexander Schallenberg, disse:

"Não podemos deixar passar este momento sem tomar medidas. Agora é a altura de concordar em regras e normas internacionais para garantir o controlo humano."

Com o pano de fundo de que as conversas sobre o uso dessas armas quase estagnaram em nível global, os especialistas também discutiram o assunto de se poderíamos ter controle adequado sobre o uso de armas autônomas devido ao fato de que essas armas são falhas com tecnologia imatura que tem seus próprios vieses e o fato de que acelera o poder de fogo além da percepção humana. Como disse Schallenberg:

“Pelo menos vamos garantir que a decisão mais profunda e abrangente, quem vive e quem morre, permaneça nas mãos dos humanos e não das máquinas.”

Fonte: Reuters.

A violência aumentará com o despliegue de sistemas automatizados

Um pesquisador do Centro de Estudos Militares em Copenhague, Neil Renic, destacou seus esforços em torno das questões éticas com armas autônomas e disse que o desafio mais premente dessas armas é sua capacidade de intensificar a capacidade de violência que já está presente, conforme relatado por Sebastian Klovig Skelton do Computer Weekly. Neil disse:

“As armas autônomas e o assassinato sistemático que elas permitirão e acelerarão provavelmente pressionarão a dignidade humana de duas maneiras diferentes, primeiro incentivando uma desvalorização moral do alvo.”

Fonte: Sebastian Klovig Skelton.

Nenhum dos palestrantes na conferência favoreceu a ideia de que as armas autônomas deveriam ter a autoridade de selecionar alvos por conta própria. O presidente executivo do Centro Internacional de Inteligência Artificial em Marrocos, Amal El Fallah Seghrouchni, destacou a virtualidade e a velocidade como problemas duplos. 

Ela afirmou que os resultados do uso de armas autônomas não são observáveis, como se um operador estivesse presente no campo, e a distância física entre o operador da arma e o teatro de guerra, combinada com a velocidade com que as decisões são tomadas, impõe uma falta de consciência aos operadores.

Ele também observou que o direcionamento amplo devido à extrema sistematização de seres humanos sob esses sistemas também aumentará, acrescentando que a despersonalização levará à erosão dos direitos humanos básicos e da dignidade dos indivíduos-alvo. A história do assassinato sistemático já prova seus efeitos.