Los robots asesinos no son robots, sino humanos

Los robots asesinos ya están en el campo de batalla y están demostrando ser armas bastante destructivas. Deberíamos estar preocupados, de hecho, muy preocupados. Dado que han demostrado su potencial letal en las guerras de Gaza y Ucrania, las consecuencias podrían ser devastadoras si se manejan con descuido. El 3 de abril, la revista +972, una publicación israelí, publicó un informe sobre el uso de IA por parte de Israel paradentobjetivos en Gaza. 

El sistema de inteligencia artificial se llama Lavender y se dice que elaboró ​​listas de bajas de presuntos miembros de Hamás, incluyendo a los de rango inferior. Desconocemos la exactitud de las listas, pero lo más preocupante es que se utilizó para atacar a los militantes incluso cuando se encontraban en sus casas con sus familias, hijos y numerosos civiles. El gráfico a continuación muestra el número de víctimas y heridos hasta el 15 de abril.

Los algoritmos indican a quién dirigirse

Como lodent el elevado número de muertes de civiles y la enorme destrucción de infraestructura tras la invasión israelí de Gaza, el informe generó gran preocupación en organizaciones humanitarias, funcionarios gubernamentales y toda persona sensata del mundo y de Estados Unidos. Antonio Guterres, Secretario General de las Naciones Unidas, se declaró profundamente preocupado, y John Kirby, portavoz de la Casa Blanca, afirmó que Estados Unidos estaba analizando el informe detenidamente

Guterres mostró más preocupación por las víctimas y dijo:

 “Ninguna parte de las decisiones de vida o muerte que afectan a familias enteras debe delegarse al frío cálculo de algoritmos”

Fuente: Worldpoliticsreview.

El informe se publicó tras eldent en el que Israel atacó y mató a siete cooperantes occidentales, algunos de ellos exmilitares británicos. Esto, por supuesto, impulsó a jueces y abogados de toda Gran Bretaña a detener la venta de armas a Israel debido a sus crímenes de guerra y graves violaciones del derecho internacional.

Otra dimensión del pensamiento sobre los robots asesinos

La Campaña para Detener a los Robots Asesinos expresó su preocupación, pero afirmó que no es contra lo que venían haciendo campaña desde 2012, ya que, según ellos, se trata de un sistema de procesamiento de datos y la decisión final de disparar recae en manos humanas. Sin embargo, una de sus declaraciones ofrece otra dimensión para reflexionar. El comunicado, publicado tras la noticia, decía:

“Falta de control y participación humana significativa en las decisiones de atacar objetivos recomendados”

Fuente: Worldpoliticsreview.

Esta declaración utiliza la palabra “falta de control humano significativo”, lo que añade otra capa de complejidad a la inteligencia artificial y los robots asesinos ya condenados, y también proporciona a los activistas una nueva preocupación por la que defender.

La inteligencia artificial suele presentarse como algo que algún día podría apoderarse del planeta y causar daños catastróficos, incluso la extinción humana. Pero un hecho aún más preocupante es que las fuerzas que la utilizan serán menos cautelosas al atacar, lo que las hará menos responsables, lo que las llevará a tomar decisiones poco éticas en guerras como ya hemos visto en Gaza. Así que, en definitiva, no se trata de robots que toman decisiones contra humanos, sino de humanos que toman decisiones robóticas sin utilizar plenamente sus capacidades cognitivas en situaciones tan delicadas de vida o muerte. Como dice una fuente en el informe:

“La máquina lo hizo fríamente”

Fuente: +972mag.

También hay otro ángulo: esto puede corromper la capacidad de los programadores para comunicarse eficazmente con los sistemas de IA, lo que terminará en crímenes de guerra.