El Pentágono se asocia con una empresa de IA para probar nuevos modelos LLM 

Scale AI está elaborando un plan de prueba y evaluación (T&E) para los modelos de lenguaje grande (LLMs) del Pentágono. El proyecto tiene como objetivo asegurar que los modelos de IA sean seguros y confiables para uso militar.

La Oficina de Inteligencia Artificial y Digital del Pentágono (CDAO) necesita una forma de probar y evaluar modelos de IA para uso militar. La CDAO quiere utilizar LLMs para apoyar y mejorar la planificación y la toma de decisiones militares. Sin embargo, los LLMs también pueden interrumpir estos procesos.

El Pentágono ha utilizado procesos T&E durante mucho tiempo para asegurar que sus sistemas, plataformas y tecnologías funcionen bien. Pero, los estándares y políticas de seguridad de la IA aún no están establecidos. Las complejidades e incertidumbres de los LLMs hacen que el T&E sea aún más difícil para la IA generativa.

¿Cómo funcionará?

Scale AI creará un marco para que la CDAO pruebe y evalúe los LLMs. El proceso T&E incluirá la creación de "conjuntos de datos de retención" donde los insiders del DoD generarán pares de respuesta a partir de prompts y los revisarán en capas. Los expertos asegurarán que cada respuesta sea tan buena como la respuesta de un humano en el ámbito militar.

El proceso será iterativo, y una vez que los conjuntos de datos estén listos, los expertos evaluarán los LLMs existentes contra ellos. Eventualmente, los modelos enviarán señales a los funcionarios de la CDAO si comienzan a desviarse de los dominios contra los que han sido probados.

El objetivo del Pentágono

El objetivo es mejorar la robustez y resiliencia de los sistemas de IA en entornos clasificados. Esto permitirá la adopción de la tecnología LLM en entornos seguros. La empresa planea automatizar tanto como sea posible del proceso de desarrollo. De esta manera, a medida que entren nuevos modelos, habrá una comprensión básica de cómo se desempeñarán, dónde se desempeñarán mejor y dónde probablemente comiencen a fallar.

Beneficios de la asociación

La asociación entre Scale AI y el DoD es un paso significativo hacia asegurar el despliegue seguro y responsable de LLMs y IA generativa dentro del ámbito militar. El marco T&E ayudará al DoD a comprender las fortalezas y limitaciones de la tecnología. También asegurará que los modelos sean confiables, seguros y efectivos para aplicaciones militares.

El CEO de Scale AI, Alexandr Wang, dijo: "Probar y evaluar la IA generativa ayudará al DoD a comprender las fortalezas y limitaciones de la tecnología, para que pueda ser desplegada de manera responsable. Scale se honra de asociarse con el DoD en este marco".

Además de la CDAO, Scale AI se ha asociado con Meta, Microsoft, el Ejército de EE. UU., la Unidad de Innovación de Defensa, OpenAI, General Motors, Toyota Research Institute, Nvidia y otros. Estas asociaciones muestran el compromiso de Scale AI de asegurar el despliegue seguro y responsable de la tecnología de IA.

La asociación entre Scale AI y el Pentágono es un gran paso. Es hacia asegurar el uso seguro de los LLMs y la IA generativa en el ámbito militar. El marco T&E ayudará al Departamento de Defensa a comprender las fortalezas y límites de la tecnología. También asegurará que los modelos sean confiables, seguros y efectivos. Esto es para uso militar. Con la experiencia de Scale AI y la necesidad del Pentágono de T&E, esta asociación es un ganar-ganar para ambas partes.