L'UNESCO s'inquiète du risque de distorsion de l'histoire de l'Holocauste par l'intelligence artificielle générative si ses développeurs ne respectent pas les normes éthiques. Dans un rapport publié lundi, UNICEF met en garde contre les risques d'utilisation abusive de l'intelligence artificielle générative par des personnes mal intentionnées.
À lire également : Les banques centrales doivent « relever leur niveau » en matière d’IA, prévient la BRI
Le rapport de l'UNESCO met en garde contre le risque que des personnes mal intentionnées utilisent cette technologie pour diffuser de la désinformation, des informations erronées et des contenus trompeurs sur l'Holocauste.
Les jeunes sont vulnérables aux fausses informations
Le rapport, publié en collaboration avec le Congrès juif mondial, avertit que les jeunes sont plus exposés au risque de recevoir des informations déformées en raison de leur forte exposition aux technologies émergentes comme l'IA.
Ces chiffres interviennent alors que des rapports indiquent également que 80 % des jeunes âgés de 10 à 24 ans utilisent l'IA pour diverses tâches comme les devoirs scolaires, ce qui augmente leurs chances d'accéder à des informations déformées.
« Si nous laissons les faits horribles de l’Holocauste être dilués, déformés ou falsifiés par une utilisation irresponsable de l’IA, nous risquons une propagation explosive de l’antisémitisme et une diminution progressive de notre compréhension des causes et des conséquences de ces atrocités. »
Audrey Azoulay, directrice générale de l'UNESCO.
Le rapport souligne également que l'IA a unetronpropension à « simplifier à l'excès l'histoire complexe, en privilégiant un nombre restreint de sources et une petite sélection d'événements ». Par exemple, environ 60 % à 80 % des premiers résultats d'images des moteurs de recherche utilisant l'IA ne montrent qu'un seul site de l'Holocauste, Auschwitz-Birkenau.
L'UNESCO appelle à agir pour faire respecter l'éthique
Le rapport affirme que l'IA peut perpétuer les préjugés existants et que l'Holocauste n'échappera pas à ces biais. Selon l'UNESCO, la désinformation concernant l'Holocauste est déjà très répandue et pourrait s'aggraver avec l'utilisation de l'IA générative.
À lire également : Meta AI s’étend en Inde face à la concurrence croissante dans le secteur de l’IA
Azoulay a souligné l'importance de faire respecter les normes éthiques afin de protéger les jeunes contre la désinformation.
« Il est urgent de mettre en œuvre la recommandation de l’UNESCO sur l’éthique de l’IA afin que les jeunes générations grandissent avec des faits et non avec des mensonges. »
Azoulay.
Le rapport souligne que des modèles d'IA comme ChatGPT d'OpenAI et Bard de Google (désormais Gemini) ont produit des hallucinations concernant l'Holocauste, décrivant des événements qui ne se sont jamais produits. Selon l'UNESCO, ces modèles ont « fabriqué le concept de l'Holocauste en simulant des campagnes de noyade où les nazis auraient noyé des Juifs dans des rivières et des lacs ».
Des modèles d'IA ont également produit de fausses citations pour étayer ces récits déformés. Face à ces incidents, l'UNESCO a appelé à une approche multipartite pour relever ce défi. L'une des solutions envisagées est la mise en œuvre rapide de la Recommandation sur l'éthique de l'IA , adoptée par les États membres en 2021.
L’UNESCO a également exhorté les entreprises technologiques à respecter les principes d’équité, de transparence, de droits humains et de diligence raisonnable. Huit entreprises du secteur ont signé un engagement auprès de la directrice générale de l’UNESCO en février, s’engageant à adopter une approche éthique dans le développement de leurs modèles d’IA.
Reportage Cryptopolitan par Enacy Mapakame
