Des chercheurs chinois enfreignent les conditions d'utilisation de Meta pour développer un outil d'IA à des fins militaires

Des instituts de recherche chinois liés à l'Armée populaire de libération ont utilisé le modèle Llama pour développer un outil d'intelligence artificielle destiné à des applications militaires. Trois articles scientifiques relatifs à ce développement ont été publiés et analysés par Reuters dans un récent reportage. 

Six chercheurs issus de trois institutions chinoises ont mis au point un outil d'IA qui traite et collecte des renseignements et facilite la prise de décision opérationnelle.

La Chine a modifié le Llama 13B de Meta

Ils appellent cet outil « ChatBIT », qui a été construit en affinant un modèle de langage étendu Llama 13B antérieur (LLM).

Les chercheurs ont indiqué que ChatBIT était « optimisé pour les tâches de dialogue et de réponse aux questions dans le domaine militaire » et qu'il parvenait à surpasser plusieurs modèles d'IA presque aussi performants que ChatGPT-4.

Selon Reuters, dans l'une des études, les scientifiques ont spécifiquement affirmé que ChatBIT atteint environ 90 % des performances de GPT-4, mais n'ont pas expliqué comment ils ont testé ses performances ni donné au moins de détails sur la question de savoir si le modèle a déjà été utilisé dans le domaine.

« C’est la première fois qu’il existe des preuves substantielles que des experts militaires de l’Armée populaire de libération en Chine ontmaticrecherché et tenté d’exploiter la puissance des logiciels libres, notamment ceux de Meta, à des fins militaires. »

Sunny Cheung, chercheuse associée à la Fondation Jamestown.

La Jamestown Foundation est un groupe de réflexion basé à Washington DC qui étudie les technologies émergentes et d'utilisation des technologies chinoises, notamment l'IA.

Meta a réaffirmé que cela était insignifiant

Bien que Meta ait mis en place des dispositions empêchant l'utilisation de ses modèles d'IA à des fins militaires, de guerre et nucléaires, elle ne peut pas concrètement faire appliquer ces dispositions car ces modèles sont publics.

Dans un communiqué, Meta a également révélé que cela serait insignifiant car les chercheurs chinois utilisent une ancienne version du modèle Llama, plus précisément Llama 13B LLM. Le géant des réseaux sociaux entraîne déjà Llama 4.

Selon Tom's Guide, d'autres chercheurs ont également noté que le modèle militaire chinois ChatBIT n'utilisait que 100 000 enregistrements de dialogues militaires, ce qui est une goutte d'eau dans l'océan étant donné que les versions les plus récentes sont entraînées sur des billions de points de données.

Toutefois, l'utilisation de modèles d'IA open source pourrait potentiellement permettre aux Chinois de rattraper leur retard sur les derniers modèles publiés par les entreprises technologiques américaines.

Alors que certains experts ont remis en question la viabilité d'un petit ensemble de données pour la formation de l'IA militaire, le développement de ChatBIT pourrait constituer une preuve de concept, les instituts militaires prévoyant de créer quelque chose de plus vaste.

Cette évolution survient à un moment où les États-Unis s'inquiètent déjà du fait que la Chine puisse tirer un avantage militaire de la disponibilité de modèles open source.

De ce fait, les États-Unis ont instauré des contrôles à l'exportation, interdisant à la Chine d'accéder à leurs modèles d'IA et à leurs GPU de pointe. Certains parlementaires militent également pour une interdiction totale, y compris de l'accès aux modèles open source.