La presentación de Microsoft y OpenAI genera controversia sobre el uso militar de herramientas de IA

El mes pasado, durante el Seminario de Alfabetización en IA Militar del Departamento de Defensa de EE. UU., Microsoft y OpenAI presentaron sus productos, lo que avivó el debate sobre las posibles aplicaciones militares de la tecnología de IA. El evento, celebrado en octubre de 2023, presentó demostraciones de productos centradas en los elementos aplicables al Pentágono, incluyendo el generador de imágenes DALL-E de OpenAI.

La propuesta de Microsoft para la integración militar

La principal herramienta presentada por Microsoft fue un generador de imágenes llamado DALL-E, que podría utilizarse en los sistemas de gestión de batalla más recientes. Estos sistemas integrales, cruciales para la planificación militar, proporcionan a todos los comandantes una visión general de todo el campo de batalla desde una única posición. Esto también resulta muy útil para la coordinación y el control de movimiento de diversas actividades, la selección de objetivos para ataques de artillería y aéreos, etc. La propuesta de Microsoft incluía el uso de DALL-E para las mejoras innovadoras de los sistemas de software de control de mando y así lograr sus objetivos de eficiencia y eficacia.

OpenAI, por otro lado, se mantuvo al margen de la presentación en EuroDIG 2019, a diferencia de Microsoft. La organización informó que no participó en la conferencia ni vendió ningún producto al departamento de defensa checo. La especialista en medios de OpenAI, Liz Bourgot, informó al público que la postura de la compañía es contraria al uso de cualquiera de sus herramientas por parte del ejército, ya que esto implicaría actividades que podrían causar daños o lesiones a personas, por ejemplo. Incluso cuando se llevó a cabo la oferta de Microsoft, Bourgot seguía considerando que OpenAI era parcialmente engañoso al colaborar con agencias de defensa para el uso de la tecnología con fines militares.

Aclaraciones de Microsoft

Gracias al apoyo de Microsoft, el Pentágono ya puede utilizar DALL-E para un software de entrenamiento y simulación más realista en las fuerzas militares. La empresa ha rechazado esta idea, ya que el plan, como tal, no se materializó. Microsoft señaló que las demostraciones de casos hipotéticos eran lo que habían ideado a partir de conversaciones con sus clientes sobre cómo podrían utilizar el nuevo producto. Además, la empresa estipuló que, en caso de que cualquier equipo del Pentágono utilizara las herramientas OpenAI proporcionadas a Microsoft, tanto el Pentágono como Microsoft tendrían que contar simultáneamente con reglas de uso y control defi.

La reciente actualización del código de conducta de OpenAI eliminó las exclusiones explícitas para el uso de su tecnología avanzada en el ámbito militar y bélico. Esta acusación enturbió aún más la ética del uso de la IA en aplicaciones militares. Además, OpenAI se mantuvo firme en su objeción al uso de sus herramientas para cualquier actividad perjudicial, pero la eliminación de los requisitos ha dejado abierta la cuestión de cuáles son las restricciones y condiciones para la aplicación de la IA en defensa.

Discusiones en curso y consideraciones éticas

La divulgación de una patente de Microsoft sobre este enfoque y la explicación de OpenAI sobre sus estándares y procedimientos éticos han transformado radicalmente el panorama de la industria tecnológica, así como el de los legisladores, quienes ahora se preocupan por los límites éticos de la tecnología de inteligencia artificial. La integración de la IA y el proceso militar plantea cuestiones moralmente complejas e implica un razonamiento jurídico que exige la elaboración de procedimientos más rigurosos para la creación y el despliegue de sistemas de IA.

A medida que avanzan las soluciones de IA, las consideraciones éticas también se intensifican, especialmente en sectores cruciales para la soberanía del país, como la protección nacional. La presentación de Microsoft y OpenAI en el seminario del Departamento de Defensa de EE. UU. destaca la creciente intención de adoptar la tecnología de IA para apoyar asuntos militares. Si bien existen aspectos beneficiosos, también existen preocupaciones sobre los resultados de estas aplicaciones, junto con las cuestiones éticas relacionadas con esta integración. Por lo tanto, debemos tenerlas en cuenta y analizar cómo se incorporan a las operaciones militares.

Este artículo apareció originalmente en Yahoo.