ÚLTIMAS NOTÍCIAS
SELECIONADO PARA VOCÊ

Dentro do primeiro conflito de IA do mundo: erros de direcionamento, desinformação e lacunas de responsabilidade

PorNoor BazmiNoor Bazmi 3 min de leitura
Dentro da primeira guerra de IA do mundo: erros de direcionamento, desinformação e lacunas de responsabilidade
  • As forças armadas dos EUA ainda estão investigando o bombardeio em uma escola no Irã, e ninguém disse se a IA desempenhou algum papel na seleção do alvo.
  • O Maven Smart System, agora alimentado por um modelo de linguagem grande, ajudou as forças dos EUA a atingir 1.000 locais em 24 horas.
  • Enquanto isso, vídeos de guerra gerados por IA acumularam centenas de milhões de visualizações, com plataformas lentas para responder.

Uma escola foi bombardeada na cidade iraniana do sul de Minab no primeiro dia dos ataques dos EUA e Israel ao Irã. Mais de 175 pessoas morreram, incluindo crianças escolares. Nem Washington nem Tel Aviv disse o que aconteceu. Ninguém assumiu a responsabilidade. Uma pergunta continua surgindo: Um sistema de IA atingida o errado alvo?

Nas primeiras 24 horas, as forças dos EUA atingiram cerca de 1.000 locais, cerca de 42 por hora. Um relatório do CSET sobre o 18º Corpo Aerotransportado descobriu que com o Sistema Inteligente Maven, 20 pessoas poderiam fazer o que antes exigia uma equipe de 2.000 pessoas no Centro Combinado de Operações Aéreas no Iraque. Até o final de 2024, os EUA haviam inserido um modelo de linguagem grande, o mesmo tipo de software por trás dos chatbots de IA para consumidores, dentro do Maven. Este foi um dos primeiros conflitos a utilizar essa tecnologia em direcionamento de alvos.

O exército dos EUA diz que ainda está investigando o ataque a Minab. Ele não disse qual parte, se houver, o sistema de IA teve em enviar um míssil para aquele edifício.

O New York Times relatou no início que o sistema pode ter estado rodando com dados antigos. A correspondente estrangeira Louisa Loveluck escreveu no X que o ataque pode ter sido “baseado em inteligência que tem uma década de idade”, e que qualquer pessoa que verificasse imagens de satélite recentes gratuitamente online teria visto “uma escola com um campo de esportes” em um dos locais marcados para ataque.

O cientista da computação Anh Totti Nguyen pesquisou onde os sistemas de visão de IA falham. Seu artigo, “Vision language models are blind: Failing to translate detailed visual features into words”, descobriu que esses sistemas frequentemente falham quando duas estruturas estão próximas uma da outra, e o software precisa determinar qual é qual.

Imagens de satélite do New York Times mostram a escola elementar Shajarah Tayyebeh sentada bem ao lado de um complexo do IRGC em Minab, a configuração exata que a pesquisa de Nguyen sinalizou.

Quem é responsável quando a IA erra?

Emilia Probasco, ex-oficial da Marinha e pesquisadora sênior no Center for Security and Emerging Technology, disse no podcast The Four Cast que a responsabilidade recai sobre o comandante que deu a ordem. Isso é como o exército funciona. Ela disse que o problema da caixa preta, a incapacidade de ver como um sistema de IA chegou à sua resposta, é “uma área de pesquisa em andamento, não resolvida.”

Antes da guerra, a Anthropic, a empresa cuja tecnologia está dentro do Maven, entrou em um disputa contratual com o Departamento de Defesa por duas coisas: se a IA é confiável o suficiente para decisões de vida ou morte, e se o uso da IA para conectar pontos de dados dispersos a transforma em uma ferramenta de vigilância em massa.

Probasco disse que ambas as preocupações se sustentam, mas observou “a estranheza de uma empresa privada traçar linhas sobre como um exército conduz suas operações.”

Holland Michel disse que a conversa continua se desviando para o pior cenário. Uma máquina que escolhe alvos e dispara sem envolvimento humano. Esse risco é real, disse ele, mas não é o que está acontecendo agora.

“O trabalho mais difícil e imediato”, disse ele, “é tornar os sistemas de IA mais transparentes e garantir que os humanos que dependem de suas saídas estejam tomando decisões genuinamente informadas, e não simplesmente delegando ao que a máquina sugere.”

Conteúdo de guerra gerado por IA também estava se espalhando rapidamente em

A BBC Verify rastreou vídeos feitos por IA e imagens de satélite adulteradas sobre o conflito que atraíram centenas de milhões de visualizações.

Timothy Graham, pesquisador de mídia digital na Queensland University of Technology, disse: “A escala é verdadeiramente alarmante e esta guerra tornou impossível ignorar agora.” Ele acrescentou, “O que antes exigia produção de vídeo profissional agora pode ser feito em minutos com ferramentas de IA. A barreira para criar metragens de conflito sintético convincentes essencialmente colapsou.”

A X disse que cortaria criadores de seu esquema de pagamento se eles postassem metragens de guerra feitas por IA sem um rótulo. Mahsa Alimardani, pesquisadora do Oxford Internet Institute que cobre o Irã, chamou isso de “um sinal notável de que eles perceberam que este é um grande problema.” A Meta e o TikTok não responderam quando questionados se planejavam fazer o mesmo.

As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.

Compartilhe este artigo
Noor Bazmi

Noor Bazmi

Noor Bazmi contribui para a equipe de notícias da Cryptopolitan, equipada com graduação em Estudos de Mídia. Noor cobre notícias sobre blockchain, criptomoedas, inteligência artificial, Big Tech, mercados de veículos elétricos, economia global e mudanças nas políticas governamentais. Ela está cursando marketing para se conectar com audiências globais.

MAIS … NOTÍCIAS