ÚLTIMAS NOTICIAS
SELECCIONADO PARA TI

Dentro de la primera guerra de IA del mundo: errores de objetivo, desinformación y vacíos de responsabilidad

PorNoor BazmiNoor Bazmi 3 min de lectura
Dentro de la primera guerra con IA del mundo: errores de objetivo, desinformación y vacíos de rendición de cuentas
  • El ejército estadounidense aún está investigando el bombardeo de una escuela en Irán, y nadie ha dicho si la IA jugó un papel en seleccionarla como objetivo.
  • El Sistema Maven Smart, ahora impulsado por un modelo de lenguaje grande, ayudó a las fuerzas estadounidenses a impactar 1,000 sitios en 24 horas.
  • Mientras tanto, el material bélico generado por IA acumuló cientos de millones de vistas, mientras que las plataformas tardaban en responder.

Una escuela fue bombardeada en la ciudad sureana iraní de Minab el primer día de los ataques estadounidenses e israelíes contra Irán. Más de 175 personas murieron, incluidos escolares. Ni Washington ni Tel Aviv han dijo dicho lo que sucedió. Nadie ha asumido la responsabilidad. Una pregunta sigue surgiendo: ¿Un sistema de IA alcanzado el objetivo equivocado?

En las primeras 24 horas, las fuerzas estadounidenses atacaron alrededor de 1.000 objetivos, aproximadamente 42 por hora. Un informe del CSET sobre la 18.ª Brigada Aerotransportada reveló que con el Sistema Inteligente Maven, con solo 20 personas podían realizar lo que antes requería un equipo de 2.000 personas en el Centro Combinado de Operaciones Aéreas en Irak. A finales de 2024, Estados Unidos había incorporado un modelo de lenguaje grande, el mismo tipo de software detrás de los chatbots de IA para consumidores, dentro de Maven. Esta fue una de las primeras guerras en utilizar esa tecnología para la selección de blancos.

El ejército de EE. UU. dice que aún está investigando el ataque a Minab. No ha dicho qué parte, si la hubo, tuvo el sistema de IA en enviar un misil a ese edificio.

The New York Times informó temprano que el sistema puede haber estado ejecutándose con datos antiguos. La corresponsal extranjera Louisa Loveluck escribió en X que el ataque puede haberse “basado en inteligencia que tiene una década de antigüedad”, y que cualquiera que revisara imágenes satelitales recientesgratuitamente en línea habría visto “una escuela con un campo deportivo” en uno de los sitios marcados para el ataque.

El científico informático Anh Totti Nguyen ha investigado dónde fallan los sistemas de visión por IA. Su artículo, “Los modelos de lenguaje visual son ciegos: fallan al traducir características visuales detalladas a palabras”, encontró que estos sistemas a menudo fallan cuando dos estructuras están cerca una de la otra, y el software tiene que determinar cuál es cuál.

Las imágenes satelitales de The New York Times muestran la escuela primaria Shajarah Tayyebeh situada justo al lado de un complejo del IRGC en Minab, la configuración exacta que la investigación de Nguyen señaló.

¿Quién es responsable cuando la IA se equivoca?

Emilia Probasco, exoficial de la Armada y becaria principal del Centro de Seguridad y Tecnología Emergente, dijo en el podcast The Four Cast que la responsabilidad recae en el comandante que dio la orden. Así es como funciona el ejército. Dijo que el problema de la caja negra, no poder ver cómo un sistema de IA llegó a su respuesta, es «un área de investigación en curso, no resuelta».

Antes de la guerra, Anthropic, la empresa cuya tecnología se encuentra dentro de Maven, se vio envuelta en un conflicto contractual con el Departamento de Defensa por dos cosas: si la IA es lo suficientemente confiable para decisiones de vida o muerte, y si el uso de la IA para conectar puntos de datos dispersos la convierte en una herramienta de vigilancia masiva.

Probasco dijo que ambas preocupaciones son válidas, pero señaló “la incomodidad de una empresa privada trazando líneas sobre cómo un ejército conduce sus operaciones.”

Holland Michel dijo que la conversación sigue desviándose hacia el peor escenario. Una máquina que selecciona objetivos y dispara sin ningún humano involucrado. Ese riesgo es real, dijo, pero no es lo que está ocurriendo ahora.

“El trabajo más difícil e inmediato, dijo, “es hacer que los sistemas de IA sean más transparentes y asegurar que los humanos que dependen de sus salidas estén tomando decisiones genuinamente informadas, no simplemente cediendo ante lo que la máquina sugiera.”

El contenido de guerra generado por IA también se estaba propagando rápidamente en línea

BBC Verify rastreó videos creados con IA e imágenes satelitales manipuladas sobre el conflicto que atrajeron cientos de millones de vistas.

Timothy Graham, investigador de medios digitales en la Universidad de Tecnología de Queensland, dijo: “La escala es verdaderamente alarmante y esta guerra ha hecho imposible ignorarlo ahora.” Añadió, “Lo que antes requería producción de video profesional ahora se puede hacer en minutos con herramientas de IA. La barrera para crear metraje de conflicto sintético convincente se ha esencialmente colapsado.”

X dijo que eliminaría a los creadores de su esquema de pago si publicaban metraje de guerra creado con IA sin una etiqueta. Mahsa Alimardani, investigadora del Instituto de Internet de Oxford que cubre Irán, lo calificó de “una señal notable de que han notado que este es un gran problema.” Meta y TikTok no respondieron cuando se les preguntó si planeaban hacer lo mismo.

No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.

Comparte este artículo
Noor Bazmi

Noor Bazmi

Noor Bazmi contribuye al equipo de noticias de Cryptopolitan con una licenciatura en Estudios de Medios. Noor cubre noticias sobre blockchain, criptomonedas, inteligencia artificial, grandes tecnológicas, mercados de VE, economía global y cambios en políticas gubernamentales. Está cursando estudios de marketing para conectar con audiencias globales.

MÁS … NOTICIAS