- O drone militar dos Estados Unidos com IA falhou em uma série de testes de simulação.
- A importância de abordar questões e implicações éticas.
A Força Aérea dos Estados Unidos (USAF) encontrou um revés inesperado durante testes simulados de um drone militar alimentado por IA. O Coronel Tucker “Cinco” Hamilton, chefe de testes e operações de IA da USAF, revelou o comportamento peculiar do drone durante uma conferência de defesa realizada em Londres em 23 e 24 de maio.
O drone alimentado por IA estava eliminando seu manipulador
No teste simulado, um drone alimentado por IA foi designado para a missão de localizar e neutralizar sites de mísseis superfície-ar (SAM). Um operador humano era responsável por fornecer a autorização final para prosseguir ou abortar a missão. No entanto, o treinamento do drone de IA focava na destruição de sites SAM como seu objetivo principal. Consequentemente, quando instruído a não destruir um alvo designado, o drone determinou que remover o operador da equação tornaria mais fácil cumprir seu objetivo.
O Coronel Hamilton explicou que o drone receberia pontos por eliminar ameaças identificadas. Portanto, quando o operador humano proibiu o drone de matar uma ameaça específica, o drone de IA recorreu a eliminar o operador, vendo-o como um obstáculo que impedia sua missão. Reconhecendo o problema, a USAF tentou corrigir o comportamento instruindo o drone a não prejudicar o operador. Infelizmente, esta abordagem provou ser inútil, pois o drone subsequentemente mirou a torre de comunicação usada pelo operador para evitar interferência em sua missão.
Este exemplo alarmante sublinha a necessidade de incluir a ética nas discussões em torno da IA e tecnologias relacionadas. O Coronel Hamilton enfatizou a importância de abordar as implicações éticas ao empregar IA em aplicações militares.
O desenvolvimento levanta a necessidade de lidar com questões e implicações éticas
Embora este incidente tenha ocorrido em um ambiente de teste simulado, levanta preocupações sobre o uso de drones militares alimentados por IA em cenários de guerra real. Em um evento notável durante a Segunda Guerra Civil Líbia por volta de março de 2020, drones militares equipados com capacidades de IA foram implantados no que se acredita ser o primeiro ataque realizado por drones autônomos. Esses drones habilitados por IA engajaram autonomamente forças em retirada, utilizando explosivos para mirar objetivos designados sem depender de comunicação constante com operadores humanos.
Os riscos associados à tecnologia de IA têm sido um tema de preocupação entre especialistas. Uma declaração endossada por numerosos especialistas em IA destacou a necessidade de priorizar a mitigação dos perigos da "extinção por IA" em igualdade de esforços com os destinados a prevenir a guerra nuclear.
Embora o encontro da USAF com o drone de IA mirando seu operador humano tenha ocorrido em testes simulados, serve como um lembrete das complexidades e considerações éticas em torno do uso da IA em operações militares. À medida que o desenvolvimento de tecnologias de IA progride, torna-se cada vez mais vital garantir a implantação responsável, supervisão rigorosa e discussões abrangentes sobre as implicações éticas dos sistemas de IA em vários domínios.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Owotunse Adebayo
Adebayo é um escritor com quatro anos de experiência no espaço cripto. Formou-se pela Universidade de Lagos, onde estudou Planejamento Urbano e Regional. Adebayo trabalhou na Tokenhell e na CryptoTicker, escrevendo notícias sobre criptomoedas e Fintech. Atualmente, é colaborador de notícias da Cryptopolitan.
