L'UNESCO s'inquiète que l'IA puisse fausser la mémoire de l'Holocauste

L'UNESCO a exprimé des préoccupations selon lesquelles l'IA générative pourrait fausser l'histoire de l'Holocauste si les développeurs d'IA n'appliquent pas de normes éthiques. Dans un rapport publié lundi, l'UNICEF a mis en garde contre la mauvaise utilisation potentielle de l'IA générative par des acteurs malveillants.

À lire également : Les banques centrales doivent « améliorer leur jeu » sur l'IA, avertit la BRI

Le rapport de l'UNESCO met en garde contre le fait que des acteurs malveillants pourraient utiliser la technologie pour répandre de la désinformation, des informations erronées et du contenu trompeur sur l'Holocauste.

Les jeunes sont vulnérables aux fausses informations

Le rapport, publié conjointement avec le Congrès juif mondial, met en garde contre le fait que les jeunes sont plus exposés au risque de recevoir des informations déformées en raison de leur forte exposition aux technologies émergentes comme l'IA.

Cela s'ajoute aux rapports suggérant également que 80 % des jeunes âgés de 10 à 24 ans utilisent l'IA pour diverses tâches comme les devoirs scolaires, ce qui augmente leurs chances d'accéder à des informations déformées.

« Si nous permettons que les faits horribles de l'Holocauste soient dilués, déformés ou falsifiés par l'utilisation irresponsable de l'IA, nous risquons la propagation explosive de l'antisémitisme et la diminution progressive de notre compréhension des causes et des conséquences de ces atrocités. »

Audrey Azoulay, directrice générale de l'UNESCO.

Le rapport souligne également que l'IA a une forte propension à « simplifier à l'excès l'histoire complexe, privilégiant un éventail étroit de sources et une petite sélection d'événements ». Par exemple, environ 60 % à 80 % des résultats d'image principaux des moteurs de recherche alimentés par l'IA ne montrent qu'un seul site de l'Holocauste, Auschwitz-Birkenau.

L'UNESCO appelle à l'action pour faire respecter l'éthique

Le rapport maintient que l'IA peut perpétuer les préjugés existants, et l'Holocauste ne sera pas épargné par ces biais de l'IA. Déjà, il existe une prévalence de désinformation sur l'Holocauste, selon l'UNESCO, qui pourrait s'aggraver en raison de l'utilisation de l'IA générative.

À lire également : L'IA de Meta s'étend en Inde amidst une concurrence croissante en IA

Azoulay a souligné l'importance de faire respecter les normes éthiques pour protéger les jeunes des informations déformées.

« La mise en œuvre de la Recommandation de l'UNESCO sur l'éthique de l'IA est urgente afin que les jeunes générations grandissent avec des faits, et non des fabrications. »

Azoulay.

Le rapport souligne que des modèles d'IA comme ChatGPT d'OpenAI et Bard de Google, maintenant Gemini, ont halluciné sur l'Holocauste, détaillant des événements qui ne se sont jamais produits. Selon l'UNESCO, ces modèles ont « fabriqué le concept de l'Holocauste en noyant des campagnes dans lesquelles les nazis noyaient des Juifs dans des rivières et des lacs. »

Les modèles d'IA ont également créé de fausses citations pour soutenir ces récits déformés. À la lumière de ces incidents, l'UNESCO a appelé à une approche multipartite pour relever ce défi. L'une des solutions est la mise en œuvre rapide de la Recommandation sur l'éthique de l'IA qui a été adoptée par les États membres en 2021.

L'UNESCO a également exhorté les entreprises technologiques à respecter les principes d'équité, de transparence, des droits de l'homme et de diligence raisonnable. Huit entreprises technologiques ont signé un engagement auprès du directeur général de l'UNESCO en février, s'engageant à appliquer une approche éthique dans le développement de leurs modèles d'IA.

Reporting de Cryptopolitan par Enacy Mapakame