El Pentágono intensifica las conversaciones con las principales empresas de IA sobre el despliegue de herramientas en sistemas clasificados

El Pentágono está ejerciendo una presión real sobre las principales empresas de inteligencia artificial para que den al ejército de EE. UU. acceso a sus herramientas dentro de sistemas clasificados.

Los funcionarios no solo piden acceso básico. Quieren que estos modelos de IA funcionen sin todos los límites habituales que las empresas imponen a los usuarios.

Durante una reunión en la Casa Blanca el martes, Emil Michael, el Director de Tecnología del Pentágono, dijo a los líderes tecnológicos que el ejército quiere que estos modelos de IA se ejecuten tanto en redes clasificadas como no clasificadas.

Un funcionario cercano a las conversaciones supuestamente dijo que el gobierno ahora está decidido a obtener lo que llama «capacidades de IA de vanguardia» en todos los niveles de uso militar.

El Pentágono exige acceso sin restricciones en redes seguras

Este impulso es parte de conversaciones más amplias sobre cómo se utilizará la IA en el combate futuro. Las guerras ya están siendo moldeadas por enjambres de drones, robots y ciberataques ininterrumpidos. El Pentágono no quiere quedarse atrás mientras el mundo tecnológico traza líneas sobre lo que está permitido.

Ahora mismo, la mayoría de las empresas que trabajan con el ejército están ofreciendo versiones diluidas de sus modelos. Estos solo se ejecutan en sistemas abiertos y no clasificados utilizados para trabajo administrativo. Anthropic es la única excepción.

Claude, su chatbot, puede usarse en algunos entornos clasificados, pero solo a través de plataformas de terceros. Incluso entonces, los usuarios del gobierno aún deben seguir las reglas de Anthropic.

Lo que quiere el Pentágono es acceso directo dentro de redes clasificadas altamente sensibles. Estos sistemas se utilizan para cosas como planificar misiones o fijar objetivos. No está claro cuándo o cómo se instalarían chatbots como Claude o ChatGPT en esas redes, pero ese es el objetivo.

Los funcionarios creen que la IA puede ayudar a procesar grandes cantidades de datos y alimentarlos a los tomadores de decisiones rápidamente. Pero si esas herramientas generan información falsa, y lo hacen, la gente podría morir. Los investigadores han advertido exactamente sobre eso.

OpenAI hizo un acuerdo con el Pentágono esta semana. ChatGPT ahora se utilizará en una red no clasificada llamada genai.mil. Esa red ya alcanza a más de 3 millones de empleados en el Departamento de Defensa.

Como parte del acuerdo, OpenAI eliminó muchas de sus limitaciones de uso normales. Todavía hay algunas barreras de seguridad en su lugar, pero el Pentágono obtuvo la mayor parte de lo que quería.

Un portavoz de la compañía dijo que cualquier expansión al uso clasificado necesitaría un nuevo acuerdo. Google y xAI de Elon Musk han hecho acuerdos similares en el pasado.

Los investigadores de IA están renunciando y señalando los riesgos

Las conversaciones con Anthropic no han sido tan fáciles. Los líderes de la compañía le dijeron al Pentágono que no quieren que su tecnología se utilice para la selección automática de objetivos o para espiar a personas dentro de EE. UU.

Aunque Claude ya se está utilizando en algunas misiones de seguridad nacional, los ejecutivos de la compañía están oponiendo resistencia. En una declaración, un portavoz dijo:-

«Anthropic está comprometida a proteger el liderazgo de Estados Unidos en IA y ayudar al gobierno estadounidense a contrarrestar amenazas extranjeras proporcionando a nuestros combatientes acceso a las capacidades de IA más avanzadas».

Indicaron que Claude ya está en uso y que la empresa sigue trabajando estrechamente con lo que ahora se denomina Departamento de Guerra. El presidente Donald Trump ordenó recientemente al Departamento de Defensa adoptar ese nombre, pero el Congreso aún debe aprobarlo.

Mientras todo esto ocurre, un grupo de investigadores de estas empresas está renunciando. Uno de los principales investigadores de salvaguardas de Anthropic dijo: «El mundo está en peligro», al marcharse. Un investigador de OpenAI también se fue, afirmando que la tecnología tiene «el potencial de manipular a los usuarios de maneras para las cuales no tenemos las herramientas para comprender, y mucho menos prevenir».

Algunas de las personas que se van no lo hacen en silencio. Advierten que las cosas avanzan demasiado rápido y que se ignoran los riesgos. Zoë Hitzig, quien trabajó en OpenAI durante dos años, renunció esta semana.

En un ensayo, dijo que tenía «profundas reservas» sobre cómo la empresa planea introducir publicidad. También afirmó que ChatGPT almacena datos privados de las personas, como «temores médicos, problemas de relación, sus creencias sobre Dios y la vida después de la muerte».

Dijo que ese es un problema enorme porque la gente confía en el chatbot y no cree que tenga motivos ocultos.

Casi al mismo tiempo, el sitio tecnológico Platformer informó que OpenAI eliminó a su equipo de alineación de la misión. Este grupo se estableció en 2024 para asegurar que el objetivo de la empresa de construir una IA que ayude a toda la humanidad realmente significara algo.