Une école a été bombardée à Minab, ville du sud de l'Iran, le premier jour des frappes américaines et israéliennes contre le pays. Plus de 175 personnes ont péri, dont des écoliers. Ni Washington ni Tel-Aviv n'ont communiqué sur les circonstances de l'attentat. Personne n'en a revendiqué la responsabilité. Une question demeure : un système d'intelligence artificielle a-t frappé la mauvaise cible ?
Au cours des premières 24 heures, les forces américaines ont frappé environ 1 000 sites, soit environ 42 par heure. Un rapport du CSET sur le 18e corps aéroporté a révélé qu'avec Maven , 20 personnes pouvaient accomplir ce qui nécessitait auparavant une équipe de 2 000 personnes au Centre d'opérations aériennes combinées en Irak. Fin 2024, les États-Unis avaient intégré à Maven un modèle de langage complexe, le même type de logiciel que celui utilisé pour les chatbots d'IA grand public . Ce fut l'un des premiers conflits à utiliser cette technologie de ciblage.
L'armée américaine affirme toujours sur la frappe de Minab. Elle n'a pas précisé le rôle, le cas échéant, joué dans le tir de missile sur ce bâtiment.
Le New York Times a rapidement signalé que le système fonctionnait peut-être avec des obsolètes . La correspondante étrangère dent Loveluck a écrit sur X que la frappe pourrait avoir été « fondée sur des renseignements en des images satellites récentes aurait vu « une école avec un terrain de sport » sur l’un des sites ciblés.
L'informaticien Anh Totti Nguyen a étudié les défaillances des systèmes de vision par intelligence artificielle. Son article, intitulé « Les modèles de langage visuel sont aveugles : incapacité à traduire des caractéristiques visuelles détaillées en mots », révèle que ces systèmes échouent souvent lorsque deux structures sont très proches et que le logiciel doit les distinguer.
Des images satellites du New York Times montrent l'école primaire Shajarah Tayyebeh située juste à côté d'un complexe des Gardiens de la révolution à Minab, soit la configuration exacte que les recherches de Nguyen avaient mise en évidence .
Qui est responsable lorsque l'IA se trompe ?
Emilia Probasco, ancienne officière de la Marine et chercheuse principale au Centre pour la sécurité et les technologies émergentes, a déclaré dans le podcast que la responsabilité incombe au commandant qui a donné l'ordre. C'est fonctionne l'armée . Elle a ajouté que le problème de la boîte noire, c'est-à-dire l'impossibilité de comprendre comment un système d'IA parvient à sa conclusion, est « un domaine de recherche en cours, et non un problème résolu ».
Avant la guerre, Anthropic, la société dont la technologie est intégrée à Maven, a eu un trac contractuel avec le ministère de la Défense sur deux points : la fiabilité de l’IA pour les décisions et la question de savoir si l’utilisation de l’IA pour relier des points de données épars la transforme en outil de surveillance de masse.
Probasco a déclaré que les deux préoccupations étaient justifiées, mais a noté « la gêne qu'il y a à ce qu'une entreprise privée trace des lignes sur la façon dont une armée mène ses opérations ».
Holland Michel a déclaré que la conversation dérivait sans cesse vers le pire scénario : une machine qui choisit ses cibles et tire sans intervention humaine . Ce risque est réel, a-t-il affirmé, mais ce n’est pas la situation actuelle .
« Le plus difficile et le plus immédiat », a-t-il déclaré, « consiste à rendre les systèmes d'IA plus transparents et à veiller à ce que les humains qui se fient à leurs résultats prennent des décisions véritablement éclairées, et ne se contentent pas de suivre aveuglément les suggestions de la machine. »
Le contenu de guerre généré par l'IA se propageait également rapidement en ligne.
BBC Verify trac débusqué créées par IA et des images satellites retouchées concernant le conflit, qui ont généré des centaines de millions de vues.
Timothy Graham, chercheur en médias numériques à l'Université de technologie du Queensland, a déclaré : « L' phénomène est véritablement alarmante et cette guerre rend désormais impossible de l'ignorer. » Il a ajouté : « Ce qui nécessitait auparavant une production vidéo professionnelle peut maintenant être réalisé en quelques minutes grâce aux outils d'IA. La barrière à la création d'images de conflit synthétiques convaincantes a quasiment disparu . »
X a annoncé qu'elle exclurait de son système de rémunération les créateurs qui publieraient des images de guerre générées par IA sans mention de l'origine du problème. Mahsa Alimardani, chercheuse à l'Oxford Internet Institute spécialisée sur l'Iran, a qualifié cette décision de « signal important montrant qu'ils ont pris conscience de l'ampleur du problème ». Meta et TikTok n'ont pas répondu à la question de savoir s'ils comptaient faire de même .
