L'endogamie de l'IA pourrait impacter sévèrement les élections américaines

Comme nous le savons, le concept d'endogamie implique une corruption du génome lorsque des individus d'un groupe génétiquement similaire se reproduisent. Cela entraîne souvent des malformations et d'autres problèmes de santé chez les nouveau-nés. Il en va de même pour les modèles d'IA en ce moment, car ils sont formés sur du contenu provenant d'une autre IA à mesure que l'internet se remplit de plus en plus de contenu généré par l'IA. Cette endogamie de l'IA va entraîner une production de contenu peu fiable et pire, ce qui aura un impact négatif sur les élections américaines cette année, selon les experts.

Lorsque les modèles d'IA ont été lancés pour rationaliser les tâches et faire gagner du temps aux créateurs de contenu, ils étaient formés sur du contenu généré par des humains, y compris du texte, de l'audio et des vidéos. Et maintenant, la majorité du contenu disponible en ligne est principalement généré par l'IA à mesure que l'internet s'en inonde et que les modèles d'IA tournent sur des données de faible qualité à des fins d'entraînement.

Cela aura des conséquences à long terme pour la société humaine et l'évolution de la technologie IA car le pool génétique propre se rétrécit. Par pool génétique propre, nous entendons le contenu créé à l'origine par des humains qui était disponible pour l'entraînement de l'IA. Selon les experts, ils ont estimé que dans quelques années, le contenu généré par l'IA pourrait atteindre près de 90 % du contenu total disponible sur Internet. À mesure que des acteurs comme ChatGPT, Gemini et Dall-E déversent d'énormes volumes de contenu quotidiennement sur les plateformes en ligne, des articles de blog aux réseaux sociaux et même aux médias traditionnels.

IA stérile à venir

Selon les experts, l'IA générative pourrait être en déclin car nous aurions peut-être atteint son apogée. La Silicon Valley s'inquiète également de cette crise car ils craignent que l'intelligence artificielle n'approche d'un hiver alors que les investisseurs pourraient considérer l'IA comme du battage médiatique et qu'il n'y aurait plus grand-chose à en tirer.

Bernard Marr, auteur et conseiller en affaires technologiques, a soutenu un article de Forbes avec son propre avis.

Une firme de recherche et de conseil en IA, SwissCognitive, a également déclaré que l'endogamie de l'IA générative pose des dangers pour la créativité et la diversité. Ils ont déclaré que des données fraîches générées par des humains sont nécessaires pour maintenir l'efficacité et la robustesse de l'IA.

L'endogamie de l'IA pourrait semer le chaos lors des élections américaines

L'endogamie de l'IA est un risque réel. Disons que vous entraînez un modèle d'IA sur des données d'un autre modèle d'IA, car les données ne sont disponibles qu'à partir d'efforts précédents. Imaginons maintenant que les données précédentes avaient divers biais et écarts, ou des ensembles de données à moitié cuits. Votre nouveau modèle d'IA ne fera que renforcer ces biais. Avec une offre immense de désinformation concernant les élections, y compris des deepfakes et de fausses nouvelles concernant les candidats et les travailleurs politiques, cela peut avoir les mêmes effets néfastes sur les prochaines élections, selon les experts.

Le Washington Post a déclaré dans un article,

« Les publicités politiques n'ont jamais été connues pour représenter avec précision l'adversaire du candidat — et maintenant l'intelligence artificielle menace de rendre la fausse représentation plus réaliste que jamais. Au lieu d'attendre que l'IA cause le chaos lors des élections de 2024, les régulateurs, les législateurs et les partis politiques devraient agir maintenant. »

Source : Washington Post.

Nous pouvons réaliser à quel point les effets du contenu manipulé par l'intelligence artificielle pourraient être dévastateurs, qu'il s'agisse d'opposants, de partisans inconditionnels ou d'acteurs étrangers essayant de déstabiliser le processus démocratique.

Issue One, un groupe de réforme politique de Washington, a partagé un tweet comprenant un article d'actualité du Philadelphia Inquirer. Le tweet d'Issue One n'est qu'un aperçu des préoccupations de ces groupes.

Comme nous le savons, les outils d'IA peuvent facilement manipuler les faits contre quelqu'un, et ces outils sont disponibles pour quiconque souhaite les utiliser. Avec des groupes parrainés par l'État, cela est devenu une menace sérieuse, et la disponibilité des réseaux sociaux pour viraliser le contenu n'est que la cerise sur le gâteau. Un petit exemple est les fausses nouvelles de la plateforme X concernant « l'Iran attaquant Israël avec de lourds missiles », ce qui peut vraiment changer l'humeur du public, et la blague est que les nouvelles ont été générées par le chatbot de la plateforme elle-même.

Et n'oubliez pas l'appel vocal truqué imitant la voix de Biden, essayant de dissuader le public de voter avant une primaire seulement deux jours avant le jour du vote. Que vous aimiez ou détestiez Biden, ces tactiques malveillantes jouent un rôle. Nous sommes sur le point d'assister à des événements intéressants.