Comme nous le savons, la consanguinité implique une altération du génome lorsque des individus d'un même groupe génétiquement similaire se reproduisent. Cela entraîne souvent des malformations et d'autres problèmes de santé chez les nouveau-nés. Le même phénomène se produit actuellement avec les modèles d'IA, qui sont entraînés sur du contenu provenant d'autres IA, alors qu'Internet est de plus en plus saturé de contenu généré par IA. Cette consanguinité au sein de l'IA va engendrer une production de contenu moins fiable et de moindre qualité, ce qui aura un impact négatif sur l'élection américaine de cette année, selon les experts.
Lors de leur lancement initial pour simplifier les tâches et faire gagner du temps aux créateurs de contenu, les modèles d'IA étaient entraînés sur du contenu généré par des humains, notamment du texte, de l'audio et de la vidéo. Aujourd'hui, la majorité du contenu disponible en ligne est générée par l'IA, car Internet en est inondé et les modèles d'IA fonctionnent avec des données de faible qualité à des fins d'entraînement.
Cela aura des conséquences à long terme pour la société humaine et l'évolution de l'intelligence artificielle, car le vivier de contenu original se réduit comme peau de chagrin. Par vivier de contenu original, on entend le contenu créé par des humains et disponible pour l'entraînement des IA. Selon les experts, d'ici quelques années, le contenu généré par l'IA pourrait représenter près de 90 % du contenu total disponible sur Internet. Des systèmes comme ChatGPT, Gemini et Dall-E déversent quotidiennement d'énormes volumes de contenu sur les plateformes en ligne, des articles de blog aux réseaux sociaux, en passant par les médias traditionnels.
IA stérile en avant
D'après les experts, l'intelligence artificielle générative pourrait être sur le déclin, ayant peut-être atteint son apogée. La Silicon Valley s'inquiète également de cette crise, craignant que l'intelligence artificielle n'approche d'une période de stagnation, les investisseurs risquant de la considérer comme un simple effet de mode et de ne plus pouvoir en tirer profit.
Bernard Marr, auteur et conseiller en affaires technologiques, a approuvé un article de Forbes en y ajoutant son propre avis.
SwissCognitive, une société de recherche et de conseil en intelligence artificielle, a également déclaré que la consanguinité dans l'IA générative représente un danger pour la créativité et la diversité. Selon elle, des données fraîches, générées par l'humain, sont nécessaires pour maintenir l'efficacité et la robustesse de l'IA.
La consanguinité liée à l'IA pourrait semer le chaos lors des élections américaines.
La consanguinité en IA représente un risque réel. Imaginons que vous entraîniez un modèle d'IA sur des données issues d'un autre modèle d'IA, les données disponibles provenant uniquement d'entraînements antérieurs. Supposons maintenant que ces données antérieures comportent divers biais et incohérences, ou qu'il s'agisse d'ensembles de données incomplets. Dans ce cas, votre nouveau modèle d'IA ne fera que reproduire ces biais. Face à l'immense quantité de désinformation concernant les élections, notamment les deepfakes, les fausses informations sur les candidats et les militants politiques peuvent avoir des conséquences tout aussi néfastes sur les élections à venir, selon les experts.
Le Washington Post a écrit dans un article :
« Les publicités politiques n’ont jamais été réputées pour leur représentation fidèle de l’adversaire du candidat ; or, l’intelligence artificielle menace de rendre la désinformation plus réaliste que jamais. Plutôt que d’attendre que l’IA sème le chaos lors des élections de 2024, les autorités de régulation, les législateurs et les partis politiques devraient agir dès maintenant. »
Source : Washington Post .
Nous pouvons nous rendre compte à quel point les effets de contenus manipulés par intelligence artificielle par des opposants, des partisans inconditionnels ou des acteurs étrangers cherchant à déstabiliser le processus démocratique pourraient être dévastateurs.
Issue One, un groupe de réforme politique basé à Washington, a partagé un tweet contenant un article du Philadelphia Inquirer. Ce tweet illustre bien les préoccupations de ces groupes.
Comme nous le savons, les outils d'IA peuvent facilement manipuler les faits à l'encontre d'une personne, et ces outils sont accessibles à tous. Conjugués aux groupes parrainés par des États, ils constituent une menace sérieuse, et la viralité des contenus sur les réseaux sociaux ne fait qu'aggraver la cake . Un exemple parmi d'autres : la fausse information diffusée par la plateforme X concernant une « attaque iranienne contre Israël avec des missiles lourds », susceptible d'influencer fortement l'opinion publique. Comble de l'ironie, cette information avait été générée par le chatbot de la plateforme.
N'oublions pas non plus le faux appel vocal imitant la voix de Biden, visant à dissuader les électeurs de voter avant une primaire, deux jours seulement avant le scrutin. Qu'on aime ou qu'on déteste Biden, ces manœuvres malveillantes ont bel et bien un impact. Nous allons assister à des événements intéressants.
