Investigadores chinos desafían los Términos de Uso de Meta para desarrollar una herramienta de IA con fines militares

Instituciones de investigación chinas vinculadas al EPL han utilizado el modelo Llama para desarrollar una herramienta de IA con aplicaciones militares. Se han publicado tres artículos académicos sobre este desarrollo, que han sido revisados ​​por Reuters en un nuevo informe. 

Seis investigadores de tres instituciones chinas han elaborado el desarrollo de una herramienta de IA que procesa y recopila inteligencia y ayuda en la toma de decisiones operativas.

China modificó el Llama 13B de Meta

A esta herramienta la llaman “ChatBIT”, y se ha creado perfeccionando un modelo de lenguaje grande (LLM) Llama 13B anterior.

Los investigadores mencionaron que ChatBIT estaba “optimizado para tareas de diálogo y respuesta a preguntas en el campo militar” y logró superar a varios modelos de IA que eran casi tan capaces como ChatGPT-4.

Según Reuters, en una de las investigaciones, los científicos afirmaron específicamente que ChatBIT realiza aproximadamente el 90% de GPT-4, pero no explicaron cómo probaron su rendimiento o al menos dieron detalles sobre si el modelo se había utilizado antes en el campo.

“Es la primera vez que hay evidencia sustancial de que los expertos militares del EPL en China han estado investigandomaticy tratando de aprovechar el poder de los LLM de código abierto, especialmente los de Meta, para fines militares”

Sunny Cheung, miembro asociado de la Fundación Jamestown.

La Fundación Jamestown es un grupo de expertos con sede en Washington DC que analiza las tecnologías emergentes y de uso comercial de China, incluida la inteligencia artificial.

Meta reiteró que esto era insignificante

Si bien Meta tiene disposiciones que impiden el uso de sus modelos de IA para aplicaciones militares, bélicas y nucleares, no puede aplicar en la práctica estas disposiciones porque estos modelos son públicos.

En un comunicado, Meta también reveló que esto sería insignificante, ya que los investigadores chinos utilizan una versión antigua del modelo Llama, concretamente Llama 13B LLM. El gigante de las redes sociales ya está entrenando a Llama 4.

Según Tom's Guide, otros investigadores también señalaron que el modelo militar chino ChatBIT solo utilizó 100.000 registros de diálogos militares, lo cual es insignificante dado que las versiones más recientes se entrenan con billones de puntos de datos.

Sin embargo, el uso de modelos de IA de código abierto podría potencialmente permitir a los chinos ponerse al día con los últimos modelos que han lanzado las empresas tecnológicas estadounidenses.

Aunque algunos expertos han cuestionado la viabilidad de un pequeño conjunto de datos para el entrenamiento de IA militar, el desarrollo de ChatBIT podría ser una prueba de concepto, y los institutos militares planean crear algo más expansivo.

Este desarrollo llega en un momento en que Estados Unidos ya estaba preocupado de que China pudiera obtener una ventaja militar gracias a la disponibilidad de modelos de código abierto.

Por ello, EE. UU. ha impuesto controles a las exportaciones, impidiendo a China acceder a sus modelos de IA y GPU de alta gama. Algunos legisladores también presionan para una prohibición total, que incluya el acceso a los modelos de código abierto.