Les chercheurs chinois défient les conditions d'utilisation de Meta pour développer un outil d'IA à des fins militaires

Des institutions de recherche chinoises liées aux PLA ont utilisé le modèle Llama pour développer un outil d'IA destiné à des applications militaires. Trois articles académiques ont été publiés concernant ce développement, et ils ont été examinés par Reuters dans un nouveau rapport. 

Six chercheurs de trois institutions chinoises ont détaillé le développement d'un outil d'IA qui traite et rassemble des renseignements, et aide à la prise de décision opérationnelle.

La Chine a modifié le Llama de Meta 13B

Ils appellent cet outil « ChatBIT », qui a été construit en affinant un modèle de langage large (LLM) Llama 13B antérieur.

Les chercheurs ont mentionné que ChatBIT était « optimisé pour les tâches de dialogue et de réponse aux questions dans le domaine militaire » et qu'il a réussi à surpasser plusieurs modèles d'IA presque aussi performants que GPT-4.

Selon Reuters, dans l'une des recherches, les scientifiques ont spécifiquement affirmé que ChatBIT performe à environ 90 % de GPT-4, mais n'ont pas expliqué comment ils ont testé ses performances ni fourni au moins des détails sur le fait que le modèle ait été utilisé auparavant sur le terrain.

« C'est la première fois qu'il y a des preuves substantielles que des experts militaires des PLA en Chine ont systématiquement recherché et tenté d'exploiter la puissance des LLM open source, en particulier ceux de Meta, à des fins militaires. »

Sunny Cheung, chercheur associé à la Fondation Jamestown.

La Fondation Jamestown est un groupe de réflexion basé à Washington D.C. qui examine les technologies émergentes et à double usage de la Chine, y compris l'IA.

Meta a réitéré que cela était insignifiant

Bien que Meta ait des dispositions en place pour empêcher l'utilisation de ses modèles d'IA à des fins militaires, de guerre et nucléaires, elle ne peut pas pratiquement faire respecter ces dispositions car ces modèles sont publics.

Dans un communiqué, Meta a également révélé que cela serait insignifiant car les chercheurs chinois ont utilisé une ancienne version du modèle Llama, spécifiquement le LLM Llama 13B. Le géant des réseaux sociaux est déjà en train d'entraîner Llama 4.

Selon Tom’s Guide, d'autres chercheurs ont également noté que le modèle militaire chinois ChatBIT n'a utilisé que 100 000 enregistrements de dialogues militaires, ce qui est une goutte d'eau étant donné que les dernières versions sont entraînées sur des billions de points de données.

Cependant, l'utilisation de modèles d'IA open source pourrait potentiellement permettre à la Chine de rattraper son retard par rapport aux derniers modèles publiés par les entreprises technologiques américaines.

Bien que certains experts aient remis en question la viabilité d'un petit ensemble de données pour l'entraînement de l'IA militaire, le développement de ChatBIT pourrait être une preuve de concept, les instituts militaires prévoyant de créer quelque chose de plus vaste.

Ce développement survient alors que les États-Unis sont déjà préoccupés par le fait que la Chine pourrait obtenir un avantage militaire grâce à la disponibilité des modèles open source.

Par conséquent, les États-Unis ont imposé des contrôles à l'exportation, empêchant la Chine d'accéder à ses modèles d'IA de pointe et aux GPU. Certains législateurs poussent également à une interdiction totale, y compris l'accès aux modèles open source