OpenAI integra ChatGPT personalizado en el sistema del Pentágono ante preocupaciones de expertos sobre seguridad

OpenAI anunció el lunes que está desplegando una versión personalizada de ChatGPT en GenAI.mil, la plataforma empresarial segura de IA del Departamento de Guerra. La asociación equipará a 3 millones de personal civil y militar con herramientas de IA para mejorar la preparación para misiones, investigación y flujos de trabajo administrativos.

OpenAI está extendiendo su colaboración con el Pentágono uniéndose a otros laboratorios de IA de vanguardia en GenAI.mil. La empresa de IA ha colaborado previamente con DARPA para apoyar iniciativas de ciberdefensa. 

A principios de este año, OpenAI también inició un programa piloto con la Oficina del Director de Digital e Inteligencia Artificial del Departamento (CDAO) para investigar cómo la IA de vanguardia podría mejorar las operaciones del Pentágono.

OpenAI despliega ChatGPT con salvaguardas para el ejército

OpenAI declaró que aquellos a cargo de la defensa nacional deberían tener acceso a los recursos más avanzados disponibles. La empresa enfatizó lo crucial que es ayudar a EE. UU. y otras naciones democráticas a comprender cómo la IA, cuando está adecuadamente protegida, puede proteger a las personas, disuadir a los enemigos y evitar conflictos. 

OpenAI reveló que está integrando ChatGPT en GenAI.mil. para facilitar el uso gubernamental seguro y eficiente y brindar a los miembros del servicio estadounidenses capacidades de IA confiables.

“Creemos que podemos lograr mejor eso participando en esfuerzos como GenAI.mil⁠(se abre en una nueva ventana), donde ayudamos a dar forma a las normas técnicas sobre cómo se implementa la IA en todo el gobierno”, dijo la empresa en el anuncio.

OpenAI dijo que la versión de GenAI.mil de ChatGPT operará en una infraestructura de nube gubernamental aprobada para el uso no clasificado del Departamento de Defensa. Según la empresa, el sistema incluye salvaguardas diseñadas para proteger datos sensibles.

La empresa tecnológica declaró además que la integración de ChatGPT en GenAI.mil refleja cómo la firma aborda el trabajo gubernamental en general: de manera enfocada, práctica, con prioridad en la seguridad y basada en el uso del mundo real.

Sin embargo, J.B. Branch, defensor de la rendición de cuentas de las grandes tecnológicas de Public Citizen, advirtió que una dependencia excesiva de la IA por parte de los usuarios podría comprometer esas salvaguardas.

Branch argumentó que la investigación indica que cuando las personas utilizan estos modelos de lenguaje grandes, tienden a darles el beneficio de la duda. Añadió: “Así que en situaciones de alto impacto como las militares, es aún más importante asegurarse de que obtengan las cosas correctas.”

Aunque OpenAI declaró que la versión personalizada de ChatGPT está exclusivamente destinada a datos no clasificados, Branch advirtió que confiar en sistemas de IA con datos sensibles los expone a atacantes, señalando que los usuarios a menudo confunden estas tecnologías con refugios seguros.

Argumentó que solo un selecto grupo debería tener acceso a material clasificado. Dijo además que incluso un sistema de corte solo militar no cambia la realidad de que el acceso a información secreta sigue siendo limitado.

El Pentágono acelera la integración de IA para mantener la superioridad

El despliegue ocurre mientras los desarrolladores de IA buscan el éxito financiero y el Pentágono acelera la integración de IA comercial en las redes militares.

El secretario de Defensa, Pete Hegseth declaró en enero que el Pentágono tiene la intención de utilizar los principales modelos de IA tanto en redes militares secretas como no clasificadas. Hegseth dijo que el Departamento de Guerra quiere crear “una fuerza de combate centrada en la IA en todos los dominios”, incluidas las operaciones en primera línea y los sistemas de planificación interna.

Según Hegseth, la lucha estratégica por la superioridad tecnológica en el siglo XXI debe ser ganada por Estados Unidos. Citó drones de largo alcance, sistemas autónomos, tecnología cuántica, hipersónicos e inteligencia artificial como campos importantes.

“Si hablas con Elon Musk el tiempo suficiente, te dirá lo importantes que son los hipersónicos y los drones de largo alcance, y tiene 100% razón. Las capacidades espaciales, la energía dirigida y la biotecnología son las nuevas áreas de competencia global.”

-Pete Hegseth, Secretario de Defensa de Estados Unidos.

Afirmó además que el Pentágono comenzaría utilizando Grok, una referencia a los lazos restablecidos entre Musk y la Administración Trump. Hegseth dijo que el objetivo es mantener la ventaja militar de EE. UU. a medida que las capacidades de IA se expanden globalmente.

Hegseth añadió que el Departamento de Guerra debe garantizar la superioridad de la IA militar de Estados Unidos para evitar que los rivales abusen de la tecnología y pongan en peligro a los ciudadanos estadounidenses o la seguridad nacional. Hegseth enfatizó que a medida que las capacidades de IA continúan expandiéndose globalmente, es imperativo preservar esta ventaja.