Preocupaciones internacionales sobre las armas controladas por IA

En los últimos días, un destacado funcionario estadounidense reiteró la idea de que todas las potencias nucleares deben contar con personal humano de alto rango para supervisar dichas armas. Paul Dean, subsecretario adjunto interino de la división de Control de Armamentos, Disuasión y Estabilidad del Departamento de Estado, afirmó que es muy arriesgado ignorar que las máquinas pueden descuidar su capacidad durante un período peligroso, cuando un solo paso en falso puede causar daños aún mayores que los que sufrieron inicialmente. En particular, mencionó el acuerdo del Consejo de Seguridad de la ONU sobre la influencia fundamental de la consideración humana en la toma de decisiones relacionadas con la gestión de armas estratégicas.

El momento Oppenheimer de la IA 

Los riesgos de la inteligencia artificial militarizada han superado el momento Oppenheimer, una clara indicación de que la encrucijada ética que enfrentó J. Robert Oppenheimer, el padre de la bomba atómica, está dominando ahora el debate sobre el papel de la IA en los conflictos modernos. Hace unas semanas, en una capacitación colaborativa que reunió a más de cien naciones de todo el mundo, la necesidad de una implementación rigurosa de la IA en los sistemas de regulación de la tecnología militar fue uno de los temas principales. El ministro de Asuntos Exteriores austriaco, Alexander Schallenberg, ha planteado la idea de que, en lo que respecta a las aplicaciones militares, la IA no impone condiciones sobre si los humanos tomarán decisiones de vida o muerte y tiene un impacto en la tecnología militar tan significativo como la pólvora.

Armas autónomas y diplomacia internacional 

La conferencia sobre Sistemas de Armas Autónomas en Viena también abarcó debates sobre la integración de la IA en las estrategias de guerra y la inminente necesidad de un sistema de tratados internacionales para abordar estas tecnologías. Si bien la participación en el ámbito militar en el ámbito de la IA es alta, aún no existe un marco jurídico internacional concreto que rija el Sistema de Armas Autónomas Letales LAWS. La conferencia se dedicó al país que se espera sea anfitrión de las próximas negociaciones que podrían conducir a la redacción de dicho tratado.

Desarrollos militares globales e IA 

Un caso reciente ilustra algunas aplicaciones legítimas de la IA en objetivos militares, y la preocupación destacada es «Lavender», nombre dado a un sistema de IA (nombre falso) por un espía israelí. Fue creado deliberadamente para recopilar grandes cantidades de datos vinculados a sospechosos (falsos) y objetivos de proyectos. Además, el ejército ucraniano también ha comenzado a desarrollar drones antidrones con IA, que mejorarán la precisión y la seguridad, lo que demuestra que la transición hacia tecnologías militares automatizadas está cobrando impulso rápidamente. Por otro lado, la interacciónmatic continúa, y la administración Biden también se asegura de mantener conversaciones con China. 

La preocupación no se limita a las cuestiones miopes relacionadas con las políticas de armas nucleares, sino también al panorama general del rápido desarrollo de la IA. Estas inferencias buscan sentar las bases para abordar los riesgos que plantea la IA, demostrando el reconocimiento de su papel dual en la tecnología. Por lo tanto, junto con la tendencia a la integración de la IA en el control remoto de los ejércitos, la necesidad de crear un sistema de tratados internacionales que regule estas tecnologías nunca ha sido tantron. El diálogo y las negociaciones en curso son pasos clave para que los robots que sirven para la protección y la guerra también estén bajo control humano.