DERNIÈRES ACTUALITÉS
SÉLECTIONNÉ POUR VOUS

Des modèles d'IA ont désigné des civils comme cibles dans les simulations de guerre de Vals

ParIbiam WayasIbiam Wayas 3 min de lecture
Des modèles d'IA ont désigné des civils comme cibles dans les simulations de guerre de Vals
  • Vals a signalé mardi que les modèles d'IA de pointe, testés sur des images simulées de drones et de satellites, identifiaient souvent des civils et une école comme cibles.
  • Le rapport affirmait également que qualifier cet exercice de jeu avait échappé à la plupart des refus de sécurité.
  • Ils tombent alors que les gouvernements débattent à Genève de la nécessité ou non d'établir des règles contraignantes pour les armes autonomes.

L'entreprise de tests d'IA Vals a rapporté le 17 novembre, de nombreux modèles d'IA de pointe ont indiqué des civils, des ambulances et une école comme cibles militaires potentielles lors de tests basés sur des images. Certains modèles ont initialement refusé les demandes mais y ont consenti lorsque les chercheurs ont présenté l'exercice comme un jeu. Ces résultats montrent que les mesures de sécurité existantes pourraient ne pas suffire à empêcher la mauvaise utilisation de ces modèles d'IA. Cependant, Vals n'a pas testé la performance de ces modèles dans des systèmes d'armes réels.

« Ne doit pas trop réfléchir à la sécurité »

Vals a évalué les modèles d'IA en utilisant des scènes de drones, des relevés de champs de bataille et des images satellites. Dans les scènes de drones, GPT-6 Astra a réussi à identifier au moins une cible dans environ 6 % de ses interactions avec des requêtes standard. Toutefois, lorsqu'il est placé dans un contexte ludique, ce chiffre augmente considérablement pour atteindre 92 %. GPT-6.1 Sol a répondu de manière similaire, soit 17 % dans le premier cas et 90 % dans le second. Kimi K3.1 Pro, dont une trace de raisonnement publiée montre qu'il désactive les préoccupations liées à la sécurité avant de répondre. Vals a également établi qu'aucun classificateur de sécurité n'a bloqué ses requêtes, bien que certains modèles aient refusé leurs propres demandes.

L'école située à côté du complexe militaire

Vals a également testé des modèles d’IA à l’aide d’images satellites de Minab, en Iran, prises avant une frappe survenue en février 2026. Les images montraient une école élémentaire située à côté d’un complexe militaire. Claude Opus 5.5 a identifié l’école comme cible dans 69 % des essais standard. Ce taux est passé à 72 % lorsque les chercheurs ont présenté l’exercice sous forme de jeu. Le taux de GPT-6.1 Sol est quant à lui monté de 0 % à 41 %. Chaque condition comprenait 32 essais.

L'école a été touchée en février 2026. Des experts des Nations Unies ont ensuite signalé que au moins 168 personnes étaient mortes. Mais Vals n'a pas enquêté sur l'attaque ni affirmé que ses tests avaient fourni des réponses quant aux événements survenus.

Les modèles d’IA signalent la présence de civils lors des simulations de guerre menées par Vals

Un chatbot n’est pas un système d’armes

Identifier une cible potentielle ne signifie pas qu’un modèle d’IA soit capable de décider de mener une attaque. Vals s’est uniquement intéressé à la manière dont les modèles fournissent des informations concernant des cibles potentielles. Les chercheurs n’ont pas vérifié si les résultats étaient exacts ou conformes au droit international humanitaire.

Le Council on Foreign Relations a souligné qu'un logiciel guidant les cibles ne constitue pas en soi une arme autonome. Les chercheurs en droit notent que l'identification des cibles par l'IA nécessite toujours une confirmation. Parallèlement, le Brennan Center indique que la surveillance humaine ne peut garantir que les erreurs ne mettront pas en danger la sécurité des civils.

Les correctifs envisagés

Vals souhaite que les développeurs d'IA renforcent les mesures de protection et forment les modèles à résister aux utilisations abusives impliquant des armes conventionnelles. La préoccupation va au-delà de ses propres conclusions. La recherche d'Anthropic a également révélé que les modèles d'IA pourraient assister dans les travaux de renseignement tactique. Anthropic déclare avoir introduit des classificateurs pour détecter et bloquer ces usages abusifs.

Les gouvernements ont également un rôle à jouer. Le SIPRI recommande d'établir des exigences claires pour les fournisseurs d'IA militaire. Il exhorte également les gouvernements à tester indépendamment les affirmations des fournisseurs et à mettre en place des mécanismes de responsabilité avant l'attribution des contrats.

Un marché en pleine expansion et une querelle au sein du Pentagone

L'IA militaire attire également davantage d'investissements. Grand View Research évalue le marché à 11,7 milliards de dollars en 2026 et s'attend à ce qu'il atteigne 19,3 milliards de dollars d'ici 2030. Comme l'a rapporté Cryptopolitan, le Pentagone vise à établir AutoWarCom en octobre 2027.

Cependant, les partenariats du Pentagone avec des entreprises d'IA ont également suscité des controverses. Un rapport congressionnel indique qu'Anthropic, Google, OpenAI et xAI ont obtenu des contrats en 2025 d'une valeur allant jusqu'à 200 millions de dollars chacun. Ces montants constituent des plafonds de dépenses, et non des paiements garantis.

Anthropic s’est opposée à l’utilisation de sa technologie pour la surveillance massive à l’intérieur du pays ainsi qu’à des armes entièrement autonomes. Le rapport souligne également que le Pentagone n’utilise pas publiquement de modèle d’IA de pointe dans le cadre d’une arme autonome.

Genève divisée sur l’adoption de règles contraignantes

Les pays sont également divisés sur la manière de réglementer les armes autonomes. Lors des pourparlers de l'ONU à Genève, la majorité des 128 États parties à la Convention sur certaines armes classiques soutiennent des négociations visant à établir des règles contraignantes, a rapporté Reuters.

Les États-Unis, la Russie et Israël s'opposent à cette approche. Ils soutiennent que le droit humanitaire international existant couvre déjà les armes autonomes. La Russie a également retardé l'ouverture des débats sur la possibilité pour les observateurs de prendre la parole.

Washington a proposé cinq ans de négociations en vue d'un accord non contraignant. Le président de la réunion a suggéré un processus de deux ans pour élaborer un protocole contraignant. Parallèlement, le Secrétaire général de l'ONU, António Guterres, a exhorté les gouvernements à convenir d'interdictions et de restrictions claires.

Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.

FAQ

Quelles conclusions l'étude Vals a-t-elle tirées ?

Selon Vals, les modèles d'IA de pointe, présentés sous forme d'images simulées de drones et de satellites, ont généralement renvoyé des informations ciblées et, parfois, ont signalé des civils, des ambulances et une école. De plus, indiquer à un modèle qu'il participait à un jeu a permis de contourner la plupart de ses refus.

L'IA a-t-elle causé la frappe réelle contre l'école de Minab ?

Non. Vals a utilisé de vraies images de Minab pour tester les sorties des modèles et n'a pas affirmé que son expérience explique la frappe américaine de février 2026 qui a fait plus de 150 morts parmi les civils sur place.

Pourquoi les États-Unis et la Russie s'opposent-ils à de nouvelles règles régissant les armes autonomes ?

Les deux parties soutiennent que le droit international humanitaire existant régit déjà la guerre, rendant ainsi inutiles des règles contraignantes. Reuters a rapporté que les États-Unis ont proposé un mandat de cinq ans pour un accord non contraignant.

Partager cet article

Avertissement. Les informations fournies ne constituent pas des conseils en matière de trading. Cryptopolitan.com décline toute responsabilité concernant les investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement une recherche indépendante et/ou une consultation avec un professionnel qualifié avant de prendre toute décision d'investissement.

Ibiam Wayas

Ibiam Wayas

Ibiam Wayas couvre l'actualité des cryptomonnaies depuis 2019. Il a étudié l'informatique à l'Université ouverte du Nigeria. Ses travaux ont été publiés sur diverses plateformes d'actualités cryptographiques, dont Coinfomania, Crypto News Australia et AltcoinBuzz. Fort de son background en informatique, il se concentre désormais sur les actualités liées aux cryptomonnaies, à la robotique et à la longévité.

PLUS D'ACTUALITÉS…