El jefe de la ONU advierte que la IA podría aumentar la probabilidad de guerras nucleares

La rápida expansión de la tecnología de IA aumenta la probabilidad de una guerra nuclear total, advirtió el secretario general de la ONU, António Guterres. En un video grabado, Guterres afirmó que la humanidad se encuentra en el filo de la navaja mientras las naciones compiten por construir las armas más potentes, poniendo vidas en peligro.

Lea también: Los empleados afirman que OpenAI y Google DeepMind ocultan los riesgos de la IA

El mensaje de advertencia en video del jefe de la ONU debía ser reproducido en la conferencia anual de la Asociación de Control de Armas (ACA) de Estados Unidos en Washington el 7 de junio, según informa The Guardian. Guterres instó a los Estados poseedores de armas nucleares a "reanudar el diálogo y acordar que ninguno será el primero en lanzar una"

Guterres quiere que la IA se aleje de las armas nucleares

Según el secretario general, los sistemas construidos para prevenir “el uso, las pruebas y la proliferación de armas nucleares” se han debilitado desde el final de la guerra fría hace más de 30 años.

Existe el temor de que, a medida que naciones como Estados Unidos y Rusia intensifican sus acciones para disuadirse mutuamente, recurran a la inteligencia artificial para facilitar los procedimientos de lanzamiento nuclear. Según informes, ambos países mantienen sus misiles balísticos intercontinentales en estado de máxima alerta, lo que significa que están listos para ser lanzados con solo unos minutos de aviso.

En su discurso en vídeo ante la ACA, Guterres dijo:

La humanidad pende de un hilo; el riesgo de que se utilice un arma nuclear ha alcanzado cotas nunca vistas desde la Guerra Fría. Los Estados están inmersos en una carrera armamentista cualitativa. Tecnologías como la inteligencia artificial multiplican el peligro

Guterres añadió que “todos los países deben estar de acuerdo en que cualquier decisión sobre el uso de la energía nuclear la toman humanos, no máquinas ni algoritmos”

En 2022, Estados Unidos, el Reino Unido y Francia emitieron una declaración conjunta expresando su compromiso de garantizar que los humanos mantuvieran el control durante los lanzamientos nucleares. Rusia y China aún no han asumido un compromiso similar, según medios de comunicación del sector. La Federación de Científicos Estadounidenses estima que el número de armas nucleares se redujo de 70.300 en 1986 a 12.100 este año.

Los científicos alertan sobre la IA

La advertencia de Guterres no es nueva. Muchos científicos ya habían alertado de 2018 informe de la Rand Corporation afirmaba que el desarrollo de la IA aumenta el riesgo de una guerra nuclear. El informe señalaba que la integración de la IA, el aprendizaje automático y el análisis de macrodatos mejorará la capacidad de las fuerzas armadas para localizar, trac, atacar y destruir las fuerzas de disuasión nuclear de un adversario.

Lea también: La poderosa IA amenaza a la humanidad: por qué los expertos insisten en una moratoria global

Otros también se han sumado al debate. Para Bilawal Sidhu, exjefe de producto de Google, el debate sobre la IA puede abordarse como un debate nuclear o dejarse abierto. Argumentó que una IA de código abierto permitiría a los actores benéficos controlar a los maliciosos, minimizando los riesgos.

En una entrevista con Newsweek, el exsecretario de Estado estadounidense Henry Kissinger afirmó que la IA es "tan trascendental" pero "menos predecible" que las armas nucleares. Kissinger cree que los riesgos de la IA pueden gestionarse mediante la cooperación y la regulación internacionales.

Reportaje Cryptopolitan de Jeffery Gogo