A pesar de la Inmadurez de la IA, Hay una Carrera para Desplegarla en Combate

Recientemente, los titulares se han centrado en los avances en inteligencia artificial. Pero la IA ha existido durante décadas, y continuará siendo una gran parte de cómo se librará la guerra en el futuro para una variedad de aplicaciones militares y de defensa.

No solo son los militares; es posible que estés leyendo este texto en un dispositivo que ya depende en gran medida de la inteligencia artificial; por lo tanto, probablemente ya hayas utilizado la IA de alguna capacidad incluso antes del reciente alboroto. 

Lo más probable es que la IA haya sido empleada en cualquier situación en la que hayas pagado algo en línea, por ejemplo, por comida o entretenimiento, hayas utilizado tu rostro o huella dactilar para desbloquear tu teléfono, te hayas involucrado en redes sociales o hayas programado viajes a través de una aplicación de teléfono. 

Nos hemos acostumbrado a la IA de varias maneras, incorporándola, a menudo sin darnos cuenta, en nuestras vidas diarias.

La IA Militar Ha Existido Desde la Segunda Guerra Mundial

Aunque las armas han sido capaces de tomar algunas decisiones desde la Segunda Guerra Mundial, la inteligencia artificial ahora les permite tomar mucho más decisiones y eventualmente las hará comunes. 

¿Qué pasaría si alguien fuera atacado y su identidad fuera determinada por dicho software de reconocimiento facial? En lugar de identificar el mejor restaurante para comer, ¿qué pasaría si un software similar guía a los aviones para lanzar un ataque aéreo contra un objetivo? 

También lea: ¿Predice la adopción de sistemas militares de IA un giro siniestro en la guerra?

Esto parece un problema realmente grande hasta ahora. La pregunta es, ¿podrían los sistemas de IA realmente estar tomando decisiones de vida o muerte por sí mismos? Su precisión no es perfecta y varía según la situación, y sabemos que no siempre son correctos.

En zonas de conflicto reales, la IA ya está eligiendo a qué personas atacar, como Gaza y Ucrania. Se dice que Israel utilizó un sistema de inteligencia artificial (IA) llamado Lavanda, que tiene una aplicabilidad mínima de toma de decisiones humanas, para seleccionar posibles objetivos, lo que llevó a un número significativo de bajas civiles, según una investigación publicada en el medio de noticias israelí +972 Magazine.

Las Máquinas Pueden Hacerlo Fríamente

Recientemente, Austria celebró una conferencia para abordar las regulaciones sobre armas de IA para abordar los efectos devastadores que pueden tener. La IA ya está combatiendo y apuntando a humanos y sus asentamientos. El Ministro de Relaciones Exteriores de Austria, Alexander Schallenberg, dijo:

“No podemos dejar pasar este momento sin tomar medidas. Ahora es el momento de acordar reglas y normas internacionales para garantizar el control humano.”

Fuente: Reuters.

La tecnología que muchos militares están desplegando en zonas de guerra aún está lejos de la madurez y aún no se está utilizando para decidir a quién atacar. La tecnología que llamamos inteligente aún no es tan capaz como el cerebro de un gato; incluso los expertos dicen que si logramos el nivel de inteligencia de un ratón en los próximos años, eso será un gran logro. 

Pero el nivel de dependencia en ella es tan alto que se despliega brutalmente de una manera que deshumaniza tanto al objetivo como a aquel con el poder de fuego. Plantea serias preguntas sobre preocupaciones morales, humanitarias y éticas. 

Como humanos, tenemos agravios, pero para prevenir un soldado afligido, los militares ahora pueden usar esta nueva arma, ya que +972 Magazine menciona a una fuente secreta de inteligencia que dijo:

“La máquina lo hizo fríamente. Y eso lo hizo más fácil.”

Fuente: +972 Magazine.

¿Es realmente importante que las personas estén involucradas en el proceso de selección? Cuando se le preguntó a otro usuario de Lavanda, dijo que en ese punto, dedicaría 20 segundos a cada objetivo y completaría docenas de ellos cada día. Además de ser un sello oficial de aprobación, no tenía valor adicional como humano. Era bastante ahorrador de tiempo.

Es fácil entender cuánto poder de decisión estamos entregando voluntariamente a las máquinas.

Los Acuerdos Internacionales Aún Están Lejos

Estados Unidos ha iniciado esfuerzos regulatorios a través de la implementación de la Declaración Política sobre el Uso Responsable de la Inteligencia Artificial y la Autonomía Militar. La proclamación también incluye a Australia. Sin embargo, un acuerdo internacional aún está muy lejos.

La declaración menciona que garantizar salvaguardas es esencial, ya que establece que:

“Los Estados deben implementar salvaguardas apropiadas para mitigar los riesgos de fallos en las capacidades de IA militar, como la capacidad de detectar y evitar consecuencias no deseadas y la capacidad de responder, por ejemplo, desvinculándose o desactivando sistemas desplegados, cuando dichos sistemas demuestren un comportamiento no deseado.”

Fuente: Departamento de Estado de EE. UU..

El documento también enfatiza que el uso de la IA en el ejército “puede y debe ser” ético, junto con mejorar la seguridad internacional. Pero las realidades del terreno muestran un panorama completamente diferente, como se discutió anteriormente.

Encontrar y localizar al personal militar enemigo es una aplicación de tales sistemas; con la innovación explosiva en curso, no tenemos idea de qué otros usos militares complejos podrían surgir. 

También lea: Kaspersky niega las afirmaciones de ayudar al ejército ruso

El debate para excluir la IA de la guerra no parece ser una opción en este momento, pero los legisladores de todo el mundo y los gobiernos involucrados en conflictos deben adherirse a la falta de capacidades que tiene la IA y el caos potencial que podría causar a los humanos.

Actualmente, la formulación de políticas está fallando al ritmo de la innovación, y eso debe abordarse en cierta medida, si no completamente, ya que no podemos simplemente sentarnos y decir, ¡guau! La IA hizo 1,000 bajas más. ¿Qué presentará la IA? Aún no lo sabemos, pero lo que los formuladores de políticas deberían hacer no es una pregunta solo para genios.

Reportaje de Cryptopolitan por Aamir Sheikh