Investigadores chinos violan los Términos de Uso de Meta para desarrollar una herramienta de IA con fines militares

Instituciones de investigación chinas vinculadas a las PLA han utilizado el modelo Llama para desarrollar una herramienta de IA para su uso en aplicaciones militares. Se han publicado tres artículos académicos sobre este desarrollo, que han sido revisados por Reuters en un nuevo informe. 

Seis investigadores de tres instituciones chinas han detallado el desarrollo de una herramienta de IA que procesa y recopila inteligencia, y ayuda en la toma de decisiones operativas.

China modificó el Llama de Meta 13B

Llaman a esta herramienta “ChatBIT”, que ha sido construida mediante el ajuste fino de un modelo de lenguaje grande (LLM) Llama 13B anterior.

Los investigadores mencionaron que ChatBIT fue “optimizado para tareas de diálogo y respuesta a preguntas en el campo militar” y logró superar a varios modelos de IA que eran casi tan capaces como ChatGPT-4.

Según Reuters, en uno de los estudios, los científicos afirmaron específicamente que ChatBIT realiza aproximadamente el 90% de GPT-4, pero no explicaron cómo probaron su rendimiento ni siquiera dieron detalles sobre si el modelo ha sido utilizado anteriormente en el campo.

“Es la primera vez que hay evidencia sustancial de que expertos militares de las PLA en China han estado investigando sistemáticamente y tratando de aprovechar el poder de los LLM de código abierto, especialmente los de Meta, con fines militares.”

Sunny Cheung, asociado investigador de la Fundación Jamestown.

La Fundación Jamestown es un think tank con sede en Washington D.C. que analiza las tecnologías emergentes y de doble uso de China, incluida la IA.

Meta reiteró que esto era insignificante

Aunque Meta tiene disposiciones en vigor para prevenir el uso de sus modelos de IA con fines militares, de guerra y nucleares, no puede hacer cumplir estas disposiciones en la práctica porque estos modelos son públicos.

En un comunicado, Meta también reveló que esto sería insignificante porque los investigadores chinos utilizaron una versión antigua del modelo Llama, específicamente el LLM Llama 13B. El gigante de las redes sociales ya está entrenando Llama 4.

Según Tom’s Guide, otros investigadores también señalaron que el modelo militar chino ChatBIT solo utilizó 100.000 registros de diálogos militares, lo cual es una gota en el océano dado que las últimas versiones se entrenan con billones de puntos de datos.

Sin embargo, el uso de modelos de IA de código abierto podría potencialmente permitir a China ponerse al día con los últimos modelos que las empresas tecnológicas estadounidenses han lanzado.

Aunque algunos expertos han cuestionado la viabilidad de un conjunto de datos pequeño para el entrenamiento de IA militar, el desarrollo de ChatBIT podría ser una prueba de concepto, con los institutos militares planeando crear algo más extenso.

Este desarrollo se produce en un momento en que Estados Unidos ya se ha mostrado preocupado por la posibilidad de que China obtenga una ventaja militar gracias a la disponibilidad de modelos de código abierto.

Como tal, Estados Unidos ha impuesto controles de exportación, prohibiendo a China acceder a sus modelos de IA de alta gama y a las GPU. Algunos legisladores también están impulsando una prohibición total que incluya el acceso a los modelos de código abierto