El jefe de la ONU advierte que la IA podría aumentar la probabilidad de guerras nucleares

La rápida expansión de la tecnología de IA está haciendo más probable la amenaza de una guerra nuclear total, advirtió el secretario general de la ONU, António Guterres. En un video grabado, Guterres dijo que la humanidad está sentada “en el filo de un cuchillo” mientras las naciones compiten para construir las armas más capaces, poniendo vidas en peligro.

También lea: Los empleados afirman que OpenAI y Google DeepMind ocultan los riesgos de la IA

El mensaje de video cauteloso del jefe de la ONU debía reproducirse en la conferencia anual de la Asociación de Control de Armas de EE. UU. (ACA) en Washington el 7 de junio, informa The Guardian. Guterres suplicó a los estados con armas nucleares que “reanuden el diálogo y acuerden que ninguno será el primero en lanzar una.”

Guterres quiere que la IA esté lejos de las armas nucleares

Según el secretario general, los sistemas construidos para prevenir el “uso, prueba y proliferación de armas nucleares” se han debilitado desde el final de la guerra fría hace más de 30 años.

Existen temores de que, a medida que naciones como EE. UU. y Rusia intensifiquen la acción para disuadirse mutuamente, podrían recurrir a la IA para facilitar los procedimientos de lanzamiento nuclear. Ambos países reportedly tienen sus misiles balísticos intercontinentales en alta alerta, lo que significa que están listos para lanzar con solo unos minutos de advertencia.

En su discurso en video ante la ACA, Guterres dijo:

“La humanidad está en el filo de un cuchillo; el riesgo de que se use un arma nuclear ha alcanzado alturas no vistas desde la guerra fría. Los estados están participando en una carrera armamentista cualitativa. Tecnologías como la inteligencia artificial están multiplicando el peligro.”

Guterres añadió que “todos los países deben acordar que cualquier decisión sobre el uso nuclear sea tomada por humanos, no por máquinas o algoritmos.”

En 2022, EE. UU., Reino Unido y Francia emitieron una declaración conjunta expresando su compromiso de garantizar que los humanos permanecieran en el control durante los lanzamientos nucleares. Rusia y China no han hecho una compromiso similar aún, según los medios de la industria. La Federación de Científicos Americanos estima que el número de armas nucleares disminuyó de 70.300 en 1986 a 12.100 este año.

Los científicos alertan sobre la IA

Guterres’ warning is not new. Many scientists have cautioned about the dangers of artificial intelligence in the past. A 2018 report by the Rand Corporation said the development of AI increases the risk of nuclear war. The report said that the integration of AI, machine learning, and big-data analytics will improve the ability of militaries to locate, track, target, and destroy a rival’s nuclear-deterrent forces.

También lea: La IA poderosa amenaza a la humanidad: por qué los expertos insisten en una moratoria global

Otros también se han sumado al debate. Para el ex líder de productos de Google, Bilawal Sidhu, el debate sobre la IA puede tratarse como nuclear o puede dejarse abierto. Él argumentó que una IA de código abierto permitiría a los buenos actores vigilar a los malos, minimizando los riesgos.

En una entrevista anterior con Newsweek, el ex secretario de Estado de EE. UU., Henry Kissinger, dijo que la IA es “tan consecuente” pero “menos predecible” que las armas nucleares. Kissinger cree que los riesgos de la IA pueden gestionarse mediante la cooperación y la regulación internacionales.

Reportaje de Cryptopolitan por Jeffery Gogo