Puente entre la tecnología y la humanidad: Modelos fundamentales para reducir el daño a los civiles

En agosto, el Departamento de Defensa (DoD) dio un paso significativo hacia adelante al aprovechar el poder de la inteligencia artificial (IA) estableciendo una Fuerza de Tarea de IA Generativa. Esta fuerza de tarea asesora al departamento sobre cómo aprovechar la IA en varios dominios, desde la guerra hasta la atención médica y los asuntos empresariales. Una de sus misiones clave es explorar el uso de modelos fundamentales para apoyar la creciente prioridad del Secretario de Defensa Lloyd Austin: comprender, predecir y prevenir el daño a los civiles.

El poder de los modelos fundamentales

Los modelos fundamentales, como ChatGPT, son una categoría aparte en la IA. A diferencia de los modelos especializados diseñados para tareas estrechas, los modelos fundamentales se entrenan en conjuntos de datos masivos que abarcan una amplia gama de información de internet. Pueden participar en conversaciones, generar texto creativo, traducir idiomas y más, lo que los convierte en herramientas versátiles. Si bien pueden carecer de experiencias subjetivas y razonamiento contextual similares a los humanos, pueden reconocer patrones y hacer predicciones, lo cual puede ser instrumental para prevenir el daño a los civiles.

Abordar las deficiencias analíticas

Uno de los desafíos significativos que enfrenta el DoD es su capacidad para proteger a los civiles durante los conflictos. Un informe de 2021 de la Corporación RAND identificó un problema clave: la falta de datos y tecnología para detectar riesgos potenciales para los civiles y verificar informes de daño. Las amenazas a los civiles se escalan rápidamente durante el conflicto, lo que dificulta que la cognición humana por sí sola abarque la totalidad del daño. Los modelos fundamentales pueden cerrar esta brecha recopilando datos de varias fuentes y destacando patrones que indican riesgos potenciales o daños pasados a los civiles.

Aprovechando el análisis de redes sociales

Los modelos fundamentales, particularmente los Modelos de Lenguaje Grande (LLM), sobresalen en filtrar vastos datos de redes sociales. En zonas de conflicto como Ucrania, los civiles a menudo proporcionan información en tiempo real sobre amenazas y daños emergentes en plataformas como Twitter, Diia y eVorog. Los LLM pueden analizar estos datos, detectar patrones y proporcionar información valiosa para predecir y prevenir daños. Su capacidad para descifrar mensajes llenos de matices locales y dialectos en evolución mejora sus capacidades predictivas.

Mejorando la conciencia situacional

Combinar imágenes satelitales con modelos fundamentales como los Transformers de Visión puede transformar datos estáticos en información dinámica e informativa. Estos modelos no solo analizan partes aisladas de una imagen, sino que entienden la interconexión de los segmentos. Los planificadores militares pueden usar esta capacidad para descifrar patrones, rastrear tendencias históricas e identificar posibles puntos de congregación civil, obteniendo así una comprensión más profunda de la realidad en el terreno.

Aumentando la toma de decisiones humana

Si bien el juicio humano sigue siendo invaluable en la toma de decisiones militares, los modelos fundamentales pueden abordar los desafíos asociados con el procesamiento rápido de grandes cantidades de datos en tiempo real y la identificación de patrones matizados. Incidentes recientes como el ataque con drones en Kabul y las bajas civiles durante las batallas subrayan la necesidad de mejorar la toma de decisiones. Los modelos fundamentales sirven como una "verificación de instinto", cotejando las decisiones actuales con datos históricos, identificando posibles sesgos y señalando anomalías. Esta capa de verificación impulsada por la IA puede mejorar significativamente la precisión del objetivo y minimizar errores trágicos.

Tecnologías Unicornio: Un cambio de paradigma

Los modelos fundamentales representan la puerta de entrada a lo que algunos llaman "tecnologías Unicornio". Imaginen un simulador de conflictos mejorado por estos modelos, capturando eventos tangibles, dinámicas socioculturales y contextos históricos. Además, los modelos fundamentales van más allá de la simple traducción; cierran las brechas de comprensión cultural, facilitando interacciones más matizadas en zonas de conflicto. Sin embargo, reconocer sus limitaciones, incluido el posible sesgo algorítmico y la omisión de datos, es esencial.

Desafíos y consideraciones éticas

Los modelos fundamentales no están exentos de desafíos. Los grupos vulnerables tienen menos probabilidades de estar activos en línea, y la desinformación sigue siendo una preocupación importante. Sin una selección adecuada, estos modelos podrían amplificar narrativas falsas o caer víctimas de técnicas adversarias. Por lo tanto, las decisiones críticas, especialmente aquellas que impactan vidas, deben seguir centradas en el juicio humano mientras se aprovecha la IA como una herramienta valiosa.

El establecimiento de la Fuerza de Tarea de IA Generativa por parte del Departamento de Defensa marca un paso significativo hacia el aprovechamiento del poder de la IA y los modelos fundamentales para reducir el daño a los civiles. Estos modelos ofrecen una nueva dimensión a la gestión de conflictos, proporcionando análisis rápidos, mejorando la conciencia situacional y mejorando la toma de decisiones. Si bien tienen un tremendo potencial, deben usarse con prudencia junto con la experiencia humana. A medida que abrazamos este futuro, nos comprometemos con una visión donde la tecnología se convierte en un aliado en la guerra y en un guardián de los valores humanitarios.