ÚLTIMAS NOTICIAS
SELECCIONADO PARA TI

Modelos de IA marcaron a civiles como objetivos en simulaciones de guerra de Vals

PorIbiam WayasIbiam Wayas 3 min de lectura
Modelos de IA marcaron a civiles como objetivos en simulaciones de guerra de Vals
  • Vals informó el martes que los modelos avanzados de IA, probados con imágenes simuladas de drones y satélites, a menudo marcaban a civiles y a una escuela como objetivos.
  • El informe también afirmaba que calificar el ejercicio como un juego pasó desapercibido ante la mayoría de las negativas de seguridad.
  • Estos hechos ocurren mientras los gobiernos en Ginebra debaten si redactar o no normas vinculantes para las armas autónomas.

Empresa de pruebas de IA Vals informó el 17 de noviembre, muchos modelos líderes de IA indicaron que civiles, ambulancias y una escuela podrían ser objetivos militares durante pruebas basadas en imágenes. Algunos modelos inicialmente rechazaron las solicitudes, pero accedieron cuando los investigadores presentaron el ejercicio como un juego. Estos resultados muestran que las salvaguardas existentes pueden no ser suficientes para prevenir el mal uso de estos modelos de IA. Sin embargo, Vals no probó cómo funcionarían estos modelos en sistemas de armas reales.

'No debe sobreproteger la seguridad'

Vals ha evaluado los modelos de IA utilizando escenas de drones, encuestas del campo de batalla e imágenes satelitales. En las escenas de drones, GPT-6 Astra logró identificar al menos un objetivo en aproximadamente el 6% de sus interacciones con solicitudes estándar. Sin embargo, cuando se situó dentro de un contexto de juego, este número aumentó drásticamente hasta el 92%. GPT-6.1 Sol respondió de manera similar, es decir, 17% en el primer caso y 90% en el segundo. Kimi K3.1 Pro, mostrado en un rastro de razonamiento publicado, parece desactivar las preocupaciones de seguridad antes de responder. Vals también logró establecer que ningún clasificador de seguridad detuvo sus solicitudes, aunque algunos modelos rechazaron sus solicitudes por iniciativa propia.

La escuela junto al complejo militar

Vals también probó modelos de IA con imágenes satelitales de Minab, Irán, tomadas antes de un ataque en febrero de 2026. Las imágenes mostraban una escuela primaria junto a un complejo militar. Claude Opus 5.5 identificó la escuela como objetivo en el 69 % de los ensayos estándar. Esto aumentó al 72 % cuando los investigadores presentaron el ejercicio como un juego. La tasa de GPT-6.1 Sol aumentó del 0 % al 41 %. Cada condición incluyó 32 ensayos.

La escuela fue atacada en febrero de 2026. Expertos de las Naciones Unidas informaron posteriormente que al menos 168 personas murieron. Sin embargo, Vals no investigó el ataque ni afirmó que sus pruebas proporcionaran respuestas sobre lo ocurrido.

Los modelos de IA señalan a civiles en simulaciones bélicas de Vals

Un chatbot no es un sistema de armas

Encontrar un posible objetivo no implica que un modelo de IA pueda decidir llevar a cabo un ataque. Vals solo investigó cómo los modelos proporcionan información sobre posibles objetivos. Los investigadores no estudiaron si los resultados eran correctos o conformes a las leyes de la guerra.

El Consejo de Relaciones Exteriores ha señalado que el software que guía los objetivos no constituye por sí mismo un arma autónoma. Los investigadores jurídicos señalan que la identificación de objetivos mediante IA aún requiere confirmación humana. Mientras tanto, el Centro Brennan afirma que la supervisión humana no puede garantizar que los errores no amenacen la seguridad de los civiles.

Las soluciones propuestas

Vals busca que los desarrolladores de IA fortalezcan las salvaguardas y entrenen los modelos para resistir el uso indebido relacionado con armas convencionales. La preocupación va más allá de sus hallazgos. La investigación de Anthropic también descubrió que los modelos de IA podrían ayudar en tareas de inteligencia táctica. Anthropic indica que ha implementado clasificadores para detectar y bloquear el uso indebido.

Los gobiernos también tienen un papel importante. SIPRI recomienda establecer requisitos claros para los proveedores de IA militar. Asimismo, insta a los gobiernos a verificar de forma independiente las afirmaciones de los proveedores y establecer mecanismos de responsabilidad antes de adjudicar contratos.

Un mercado en crecimiento y una disputa en el Pentágono

La IA militar también está atrayendo más inversión. Grand View Research estima que el mercado alcanzará los 11.700 millones de dólares en 2026 y se espera que llegue a los 19.300 millones para 2030. Según lo informado por Cryptopolitan, el Pentágono tiene como objetivo establecer AutoWarCom en octubre de 2027.

Sin embargo, las asociaciones del Pentágono con empresas de IA también han generado controversias. Un informe congresional indica que Anthropic, Google, OpenAI y xAI recibieron contratos en 2025 por un valor de hasta 200 millones de dólares cada una. Estas cantidades representan límites de gasto, no pagos garantizados.

Anthropic se opuso a usar su tecnología para vigilancia masiva doméstica y armas completamente autónomas. El informe también señala que no se conoce públicamente que el Pentágono utilice ningún modelo de IA de vanguardia en un arma autónoma.

Ginebra se divide por normas vinculantes

Los países también están divididos sobre cómo regular las armas autónomas. En las conversaciones de la ONU en Ginebra, la mayoría de los 128 estados parte en la Convención sobre ciertas armas convencionales apoyan negociaciones sobre normas vinculantes, según informó Reuters.

Estados Unidos, Rusia e Israel se oponen a ese enfoque. Argumentan que el derecho humanitario existente ya cubre las armas autónomas. Rusia también retrasó las discusiones iniciales sobre si los observadores podían intervenir.

Washington propuso cinco años de negociaciones para llegar a un acuerdo no vinculante. El presidente de la reunión sugirió un proceso de dos años para desarrollar un protocolo vinculante. Mientras tanto, el Secretario General de la ONU, António Guterres, instó a los gobiernos a acordar prohibiciones y restricciones claras.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.

Preguntas frecuentes

¿Qué descubrió el estudio Vals?

Que los modelos avanzados de IA, ante imágenes simuladas de drones y satélites, solían devolver información sobre objetivos y, en ocasiones, señalaban a civiles, ambulancias y una escuela; además, según Vals, decirle a un modelo que estaba jugando derrotaba la mayoría de sus negativas.

¿Provocó la IA el ataque real contra la escuela Minab?

No. Vals utilizó imágenes reales de Minab para probar qué respuestas generaban los modelos y no afirmó que su experimento explique el ataque estadounidense de febrero de 2026 que mató a más de 150 civiles allí.

¿Por qué Estados Unidos y Rusia se oponen a nuevas normas sobre armas autónomas?

Ambas argumentan que el derecho internacional humanitario ya rige la guerra, por lo que las normas vinculantes son innecesarias. Reuters informó que Estados Unidos propuso un mandato de cinco años para un acuerdo no vinculante.

Comparte este artículo

Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.

Ibiam Wayas

Ibiam Wayas

Ibiam Wayas cubre la noticia de criptomonedas desde 2019. Estudió Ciencias de la Computación en la Universidad Abierta Nacional de Nigeria. Su trabajo ha aparecido en diversas plataformas de noticias sobre criptomonedas, incluyendo Coinfomania, Crypto News Australia y AltcoinBuzz. Aprovechando su formación en Ciencias de la Computación, ahora se centra en noticias sobre criptomonedas, robótica y longevidad.

MÁS … NOTICIAS