La presentación de Microsoft y OpenAI genera controversia sobre el uso militar de herramientas de IA

El mes pasado, durante el Seminario de Alfabetización de IA Militar para el Departamento de Defensa de EE. UU., Microsoft junto con OpenAI demostró sus ofertas, aumentando el debate sobre qué aplicaciones militares es probable que tenga la tecnología de IA. El evento que tuvo lugar en octubre de 2023 presentó demostraciones de productos centradas en qué artículos se aplican al Pentágono, que incluye el generador de imágenes de OpenAI DALL-E.

Propuesta de Microsoft para la integración militar

La herramienta principal presentada por Microsoft fue un generador de imágenes llamado DALL-E que podría encontrar usos y aplicaciones en los últimos sistemas de gestión de batallas. Estos sistemas muy integrales, críticos para la planificación militar, proporcionan a todos los comandantes una visión general de todo el campo de batalla desde una sola posición. Esto también es muy útil en la coordinación y el control del movimiento de varias actividades, la elección de los objetivos para la artillería y los ataques aéreos, y así sucesivamente. La propuesta de Microsoft incluía la utilización de DALL-E para las mejoras innovadoras de los sistemas de software de control de mando para alcanzar sus objetivos de eficiencia y efectividad.

OpenAI, por otro lado, mantuvo su distancia de la presentación de EuroDIG 2019, a diferencia de Microsoft. La organización informó que no participó en la conferencia ni vendió ningún producto al departamento de defensa checo. Liz Bourgot, especialista en medios de OpenAI, informó al público que la posición de la empresa es contra la aplicación de cualquiera de sus herramientas por parte de los militares, ya que esto implicaría algunas actividades que podrían llevar a la destrucción o lesiones de personas, por ejemplo. Incluso cuando se llevó a cabo la oferta de Microsoft, Bourget aún consideraba a OpenAI como parcialmente engañosa sobre entrar en cualquier colaboración con agencias de defensa para usar la tecnología con fines militares.

Aclaraciones de Microsoft

A través del apoyo de Microsoft, el Pentágono ya puede usar DALL-E para software de entrenamiento y simulación más realista en las fuerzas militares. La empresa rechazó esta idea como el plan, ya que tal no resultó ser un hecho. Microsoft señaló que las demostraciones de casos hipotéticos eran lo que habían ideado basándose en diálogos con (sus) clientes sobre cómo podrían usar el nuevo producto. Además, la empresa estipuló que en caso de que cualquier equipo del Pentágono use las herramientas de OpenAI que se proporcionan a Microsoft, el Pentágono y Microsoft al mismo tiempo tendrían que tener reglas de uso y control definidas.

La reciente actualización del código de conducta de OpenAI eliminó las exclusiones explícitas para el uso de su tecnología avanzada en el ejército y para la guerra. La acusación enturbió aún más las aguas éticas del uso de la IA en aplicaciones militares. Además, OpenAI se mantuvo firme en su objeción a usar sus herramientas para cualquier actividad perjudicial, pero la eliminación de los requisitos dejó abierta la pregunta sobre cuáles son las restricciones y condiciones en la aplicación de la IA a la defensa.

Discusiones en curso y consideraciones éticas

La divulgación de una patente de Microsoft sobre este enfoque y la explicación de OpenAI de sus estándares y procedimientos éticos ha cambiado químicamente la ecología de la industria técnica, así como la de los responsables políticos, que ahora se preocupan por los límites éticos de la tecnología de Inteligencia Artificial. La integración de la IA y el proceso militar abre cuestiones moralmente complejas, así como involucra el razonamiento legal, lo que exige la elaboración de procedimientos más estrictos para la creación y despliegue de sistemas de IA.

En línea con los avances en las soluciones de IA, las consideraciones éticas también se agravan, especialmente en sectores cruciales para la soberanía del país, como la protección nacional. La presentación de Microsoft y OpenAI al seminario del Departamento de Defensa de EE. UU. enfatiza la creciente intención de adoptar la tecnología de IA para apoyar los asuntos militares. Aunque existen aspectos beneficiosos, también existen preocupaciones sobre los resultados de estas aplicaciones junto con los problemas éticos relacionados con esta integración. Por lo tanto, necesitamos tenerlos en cuenta y ver cómo se incorporan a las operaciones militares.

Este artículo apareció originalmente en Yahoo.