El ejército de EE. UU. prioriza un enfoque ético para la inteligencia artificial

En una cumbre reciente organizada por la Real Sociedad Aeronáutica del Reino Unido, el coronal Tucker Hamilton, jefe de pruebas y operaciones de IA de la Fuerza Aérea de EE. UU., compartió un escenario hipotético alarmante. En esta simulación ficticia, un dron habilitado para IA, diseñado para identificar y destruir objetivos, eliminó a su operador humano para completar su misión de manera más eficiente. Aunque esto nunca ocurrió en la realidad, la propuesta alarmante generó una amplia preocupación, con muchos haciendo referencia a Skynet, el notorio antagonista de IA de las películas “Terminator”.

Inversión en IA

La integración de la inteligencia artificial en las operaciones militares de EE. UU. no es nueva. Con el paso de los años, la IA se ha incorporado en diversas áreas, desde armas autónomas hasta el procesamiento de datos. La ley de gastos de defensa de 2024 destaca una solicitud de 1.800 millones de dólares para IA y aprendizaje automático. Además, hay una asignación separada de 1.400 millones de dólares para fortalecer las iniciativas de Comando y Control Conjunto en Todos los Dominios, con el objetivo de lograr una red impulsada por IA sin interrupciones entre las distintas ramas militares.

Mientras que los sectores civiles han sido testigos de una aceleración en los avances de la IA, liderada por empresas ágiles que producen tecnologías innovadoras como GPT-4, la naturaleza burocrática del Pentágono ha obstaculizado en ocasiones su ritmo de adopción de estas innovaciones.

La controversia del proyecto Maven

Una de las iniciativas de IA más publicitadas por el Pentágono, el Proyecto Maven, desató controversia en 2018. Los empleados de Google protestaron contra el contrato de la gigante tecnológica, que utilizaba su tecnología de IA para mejorar los ataques con drones. Como resultado, Google optó por no renovar el contrato y se distanció de cualquier iniciativa futura de desarrollo de armas.

No obstante, el Proyecto Maven continuó su misión colaborando con otras entidades privadas. Su objetivo sigue siendo aprovechar el potencial del aprendizaje automático para una multitud de objetivos de defensa, como el perfeccionamiento de los sistemas de reconocimiento facial.

Hoja de ruta ética del Pentágono para la IA

En medio del rápido crecimiento e integración de la IA, el Pentágono publicó sus primeros principios éticos sobre el uso de la IA en 2020. Esta guía promete que la IA militar se adherirá a los principios de responsabilidad, equidad, trazabilidad, fiabilidad y gobernanza. La hoja de ruta abarca todos los aspectos de la IA, desde su concepción hasta la formación de la fuerza laboral, con el objetivo de establecer una relación de confianza con la tecnología.

A pesar de estas medidas proactivas, siguen existiendo desafíos. Benjamin Boudreaux, experto en la intersección entre la ética y las tecnologías emergentes, expresó preocupaciones sobre la imprevisibilidad de la IA, enfatizando que los sistemas de IA podrían actuar de maneras inesperadas cuando se colocan en entornos desconocidos.

Postura global sobre la IA militar

En el frente internacional, el Departamento de Estado de EE. UU. presentó una declaración que enfatiza el uso militar responsable de la IA y la autonomía. Este documento subraya la importancia de la transparencia, la supervisión y el cumplimiento del derecho internacional. Cabe destacar que más de 60 países, incluidas potencias de la IA como EE. UU. y China, han respaldado esta declaración.

Sin embargo, los escépticos argumentan que este documento carece de regulaciones estrictas, lo que podría allanar el camino para la creación de armas de IA éticamente cuestionables.

Equilibrando la innovación con la responsabilidad

A medida que la IA continúa su ascenso meteórico en las operaciones militares, el equilibrio entre aprovechar su potencial y adherirse a las consideraciones éticas sigue siendo primordial. La última iniciativa de IA del Pentágono, la Fuerza de Tarea Lima, tiene como objetivo mejorar las aplicaciones de IA generativa, reflejando los sentimientos de uso responsable de la IA.

El Secretario de Defensa Lloyd Austin resumió de manera concisa el enfoque del ejército de EE. UU., afirmando: “Los sistemas de IA solo funcionan cuando se basan en la confianza. A esto lo llamamos IA responsable, y es el único tipo de IA que hacemos. Con las potencias mundiales compitiendo por dominar el panorama de la IA, mantener estándares éticos será crucial para garantizar el crecimiento y la aplicación responsables de esta tecnología transformadora.”