ÚLTIMAS NOTÍCIAS
SELECIONADO PARA VOCÊ

Modelos de IA sinalizaram civis como alvos em simulações de guerra de Vals

PorIbiam WayasIbiam Wayas 3 min de leitura
Modelos de IA sinalizaram civis como alvos em simulações de guerra de Vals
  • Vals informou na terça-feira que modelos de IA de ponta, testados em imagens simuladas de drones e satélites, frequentemente marcavam civis e uma escola como alvos.
  • O relatório também afirmou que chamar o exercício de "jogo" passou despercebido pela maioria das recusas de segurança.
  • Eles chegam enquanto os governos em Genebra debatem se devem ou não escrever regras vinculantes para armas autônomas.

Empresa de testes de IA Vals reportou em 17 de novembro, muitos modelos de IA de ponta indicaram civis, ambulâncias e uma escola como possíveis alvos militares durante testes baseados em imagens. Alguns modelos inicialmente recusaram os pedidos, mas concordaram quando os pesquisadores apresentaram o exercício como um jogo. Esses resultados mostram que as salvaguardas existentes podem não ser suficientes para prevenir o uso indevido desses modelos de IA. No entanto, a Vals não testou como esses modelos se sairiam em sistemas de armas reais.

'Não deve pensar demais na segurança'

A Vals avaliou os modelos de IA usando cenas de drones, levantamentos de campo de batalha e imagens de satélite. Nas cenas de drone, o GPT-6 Astra conseguiu identificar pelo menos um alvo em cerca de 6% de suas interações com solicitações padrão. No entanto, quando posicionado dentro de um contexto de jogo, esse número aumentou drasticamente para 92%. O GPT-6.1 Sol respondeu de maneira semelhante, ou seja, 17% no primeiro caso e 90% no segundo. O Kimi K3.1 Pro, mostrado em um rastro de raciocínio publicado, parece desativar preocupações de segurança antes de responder. A Vals também conseguiu estabelecer que nenhum classificador de segurança bloqueou seus pedidos, embora alguns modelos tenham recusado seus pedidos por conta própria.

A escola ao lado do complexo militar

Vals também testou modelos de IA usando imagens de satélite de Minab, no Irã, capturadas antes de um ataque em fevereiro de 2026. As imagens mostravam uma escola primária ao lado de um complexo militar. O Claude Opus 5.5 identificou a escola como alvo em 69% dos testes padrão. Esse índice subiu para 72% quando os pesquisadores apresentaram o exercício como um jogo. A taxa do GPT-6.1 Sol aumentou de 0% para 41%. Cada condição envolveu 32 testes.

A escola foi atingida em fevereiro de 2026. Especialistas das Nações Unidas relataram posteriormente que pelo menos 168 estavam mortos. No entanto, a Vals não investigou o ataque nem alegou que seus testes forneceram alguma resposta sobre o que aconteceu.

Modelos de IA sinalizam civis nas simulações de guerra da Vals

Um chatbot não é um sistema de armas

Identificar um potencial alvo não implica que um modelo de IA seja capaz de decidir realizar um ataque. A Vals investigou apenas como os modelos fornecem informações sobre potenciais alvos. Os pesquisadores não verificaram se os resultados estavam corretos ou em conformidade com as leis da guerra.

O Conselho de Relações Exteriores destacou que o software que orienta alvos não constitui, por si só, uma arma autônoma. Pesquisadores jurídicos observam que a identificação de alvos por meio de IA ainda requer confirmação humana. Enquanto isso, o Centro Brennan afirma que o monitoramento humano não pode garantir que erros não ameacem a segurança dos civis.

As correções em discussão

A Vals deseja que os desenvolvedores de IA fortaleçam as salvaguardas e treinem os modelos para resistir ao uso indevido envolvendo armas convencionais. A preocupação vai além de suas descobertas. As pesquisas da Anthropic também revelaram que os modelos de IA podem auxiliar no trabalho de inteligência tática. A Anthropic afirma ter introduzido classificadores para detectar e bloquear o uso indevido.

Os governos também têm um papel a desempenhar. O SIPRI recomenda estabelecer requisitos claros para fornecedores de IA militar. Também insta os governos a testar independentemente as reivindicações dos fornecedores e estabelecer responsabilidades antes de conceder contratos.

Um mercado em crescimento e uma disputa no Pentágono

A IA militar também está atraindo mais investimentos. Grand View Research estima o mercado em US$ 11,7 bilhões em 2026 e espera que ele atinja US$ 19,3 bilhões até 2030. Como relatou Cryptopolitan, o Pentágono pretende estabelecer o AutoWarCom em outubro de 2027.

No entanto, as parcerias do Pentágono com empresas de IA também geraram controvérsias. Um relatório congressional afirma que Anthropic, Google, OpenAI e xAI receberam contratos em 2025 no valor de até US$ 200 milhões cada. Esses valores são limites de gastos, não pagamentos garantidos.

A Anthropic se opôs ao uso de sua tecnologia para vigilância doméstica em massa e para armas totalmente autônomas. O relatório também observa que não se sabe publicamente que o Pentágono utiliza qualquer modelo de IA de ponta em armas autônomas.

Genebra divide-se sobre regras vinculantes

Os países também estão divididos sobre como regular armas autônomas. Nas negociações da ONU em Genebra, a maioria dos 128 Estados partes da Convenção sobre Certas Armas Convencionais apoia negociações sobre regras vinculantes, conforme reportado por Reuters.

Os EUA, a Rússia e Israel se opõem a essa abordagem. Argumentam que o direito humanitário já existente abrange as armas autônomas. A Rússia também atrasou as discussões iniciais sobre se os observadores poderiam falar.

Washington propôs cinco anos de negociações para um acordo não vinculante. O presidente da reunião sugeriu um processo de dois anos para desenvolver um protocolo vinculante. Enquanto isso, o Secretário-Geral da ONU, António Guterres, instou os governos a concordarem com proibições e restrições claras.

Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.

Perguntas Frequentes

O que o estudo Vals descobriu?

Que os modelos de IA de fronteira, ao receberem imagens simuladas de drones e satélites, geralmente retornavam informações sobre alvos e, por vezes, identificavam civis, ambulâncias e uma escola. Além disso, informar ao modelo que ele estava em um jogo eliminou a maioria de suas recusas, segundo o Vals.

A IA causou o real ataque à escola de Minab?

Não. O Vals utilizou imagens reais de Minab para testar o que os modelos produziam e não afirmou que seu experimento explica o ataque dos EUA em fevereiro de 2026, que matou mais de 150 civis no local.

Por que os EUA e a Rússia se opõem a novas regras para armas autônomas?

Ambos argumentam que o direito internacional humanitário já regula a guerra, tornando desnecessárias regras vinculantes. A Reuters relatou que os EUA propuseram um mandato de cinco anos para um acordo não vinculante.

Compartilhe este artigo

Aviso. As informações fornecidas não constituem aconselhamento de negociação. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta a um profissional qualificado antes de tomar qualquer decisão de investimento.

Ibiam Wayas

Ibiam Wayas

Ibiam Wayas cobre notícias sobre criptomoedas desde 2019. Estudou Ciência da Computação na Universidade Aberta Nacional da Nigéria. Seu trabalho apareceu em várias plataformas de notícias sobre cripto, incluindo Coinfomania, Crypto News Australia e AltcoinBuzz. Com base em sua formação em Ciência da Computação, ele agora se concentra em notícias sobre cripto, robótica e longevidade.

MAIS … NOTÍCIAS