¿Qué sucede cuando los algoritmos asesinos superan el derecho internacional?

El uso descuidado de algoritmos de inteligencia artificial puede tener consecuencias negativas para la humanidad que superan nuestra imaginación. Aún no existen regulaciones globales para prevenir los efectos negativos de los algoritmos asesinos, a pesar de que la IA ha avanzado considerablemente en los últimos dos años. 

Muchos países están integrando inteligencia artificial en sus sistemas militares para el reconocimiento de objetivos y la aceleración de su potencia de fuego, pero su uso descuidado es devastador. El impacto negativo de la IA también es claramente visible al perturbar los procesos democráticos al intentar alterar la opinión pública con afirmaciones falsas mediante la desinformación.

Algoritmos asesinos que se cobran vidas inocentes

Recientemente hemos visto anuncios de integración de IA en sistemas militares de muchos países, y un buen número detracmilitares están lanzando sus sistemas de orientación y disparo mejorados con IA, desde drones hasta sistemas de radar, y también sistemas de vigilancia para el reconocimiento de objetivos humanos. 

El despliegue más descuidado se ha visto cuando Israel ataca a la población de Gaza generando listas de objetivos mediante algoritmos asesinos, a menudo erróneos o implementados con negligencia criminal, matando a decenas y cientos de civiles inocentes, con un supuesto individuo potencial como objetivo principal. Imaginen el caos que ha causado en la población civil de Gaza, matando a miles de niños y mujeres, como un funcionario expresó que la máquina lo hizo con frialdad. ¿En serio? Matar civiles a sangre fría es la realidad de lo crueles que pueden llegar a ser los algoritmos asesinos.

Una investigación reciente de la publicación israelí +972 Magazine ha descubierto datos alarmantes sobre el uso de inteligencia artificial por parte de las fuerzas israelíes en ataques aéreos. El sistema conocido como Lavender se ha utilizado para generar listas de miles de presuntos militantes, y otro sistema llamado Gospel para seleccionar edificios e infraestructuras como objetivos. La estrategia consistía en atacar a miembros de Hamás incluso si se encontraban en sus casas, ubicadas en barrios civiles, matando a cientos de civiles en el proceso. 

El informe incluye entrevistas con seis fuentes de inteligencia israelíes cuyos nombres se mantuvieron en secreto por razones de seguridad. Estas fuentes afirmaron el uso de Lavender, junto con otros sistemas de inteligencia artificial, para la selección de objetivos. También analizaron la permisividad de las regulaciones para el uso de estos sistemas y su estimación de la cantidad de civiles asesinados o permitidos como daños colaterales, con un rango de dos a tres dígitos para cada funcionario de Hamás, ya sea de alto o bajo rango. 

Pero las cifras reales parecen superar con creces estas estimaciones, que ya eran las más altas en comparación con las guerras modernas en todo el mundo. El número de niños muertos durante los primeros tres meses de la guerra también superó al de niños muertos en guerras de todo el mundo. Es desgarrador solo pensar en ellos.

Aún falta regulación global

A pesar de que los algoritmos de IA asesinas matan personas en las guerras, parece que los líderes mundiales no hacen suficientes esfuerzos para frenar esta amenaza. No existe un conjunto de regulaciones globales para el uso de la IA en la guerra, a pesar de que matar personas y dañar infraestructuras cruciales para privar a la población civil de sus necesidades humanas básicas constituye un claro crimen de guerra. 

Lo que vemos son palabrerías de los líderes mundiales, seguidas de otra concesión de armas por parte de EE. UU., que podrían utilizarse en colaboración con los citados algoritmos asesinos basados ​​en IA. La única acción legal fue la de Sudáfrica ante la Corte Internacional de Justicia por crímenes de guerra contra Israel.

Ejércitos de todo el mundo intentan aprovechar la inteligencia artificial, y muchos países buscan obtener una ventaja militar mediante el despliegue de estos sistemas. Las tensiones geopolíticas también impulsan estos avances, ya que países desde Estados Unidos hasta China se apresuran a desarrollar sistemas de IA para la selección de objetivos y la toma de decisiones, agilizando así los procesos. 

Hasta ahora, se afirma que el despliegue de inteligencia artificial tendrá una mayor precisión y menos daños civiles, pero la realidad sobre el terreno contradice estas afirmaciones y los peligros de los algoritmos asesinos superan con creces las afirmaciones de precisión, que exigen esfuerzos sólidos para regular la IA a nivel global.

Los informes de la revista +972 se pueden encontrar aquí.