Comment l’aptitude de l’IA à la désinformation révèle des capacités impressionnantes mais troublantes de ChatGPT-3
- Les générateurs de texte par IA, comme ChatGPT-3, peuvent produire de manière convaincante des informations vraies et fausses, ce qui soulève des préoccupations concernant la désinformation sur les réseaux sociaux.
- Les personnes peinent à distinguer le contenu généré par un humain de celui généré par une IA, révélant ainsi la sophistication de ChatGPT-3.
- La nécessité urgente d'une éducation numérique et d'une vigilance accrue pour faire face à l'utilisation abusive potentielle de la technologie IA dans la propagation de la désinformation.
Une recherche récente publiée dans Science Advances met en lumière les capacités extraordinaires des générateurs de texte par IA, tels que ChatGPT-3 d’OpenAI, à dispenser de manière convaincante des informations vraies et fausses sur les plateformes de réseaux sociaux. L’étude souligne les défis de l’identification du contenu généré par l’IA et l’impact de la désinformation générée par l’IA sur la santé individuelle et publique. Le Dr Federico Germani, co-auteur et chercheur à l’Institut d’éthique biomédicale et d’histoire de la médecine de l’Université de Zurich, insiste sur la nécessité de comprendre les risques associés aux fausses informations et l’influence de l’IA sur le paysage de l’information.
Quelle est la différence entre la désinformation et la mésinformation ?
La mésinformation est une information fausse ou inexacte – se tromper sur les faits. La désinformation est une information fausse qui est délibérément destinée à induire en erreur – énoncer intentionnellement des faits erronés. Selon l’American Psychological Association, la mésinformation et la désinformation ont affecté notre capacité à améliorer la santé publique, à lutter contre le changement climatique, à maintenir une démocratie stable, et plus encore. Quiconque discute de sujets sensibles sur les réseaux sociaux peut se retrouver au milieu d’une tempête. Comment peuvent-ils rester en sécurité tout en communiquant les faits, et que peuvent faire les institutions pour les soutenir ? La mentalité de foule des réseaux sociaux rend le public vulnérable à l’autorité de l’IA, c’est-à-dire que ces données sont « scientifiques » et donc acceptables. Mais l’IA est-elle vraiment intelligente ?
Le pouvoir de ChatGPT-3 pour la désinformation
ChatGPT-3 d’OpenAI, introduit en 2020, a révolutionné le paysage de l’IA avec sa capacité étonnante à produire des textes authentiques basés sur des invites. Les utilisations potentielles des générateurs de texte par IA semblent infinies, de la création de chatbots interactifs à l’aide à la recherche académique et à la génération de contenu créatif comme la poésie et les nouvelles.
L’étude met en lumière des préoccupations importantes concernant la mauvaise utilisation potentielle des générateurs de texte par IA, en particulier leur capacité à créer de la désinformation et du contenu trompeur. Avec la montée des réseaux sociaux, la vitesse et la portée de l’information, y compris la mésinformation et la désinformation, se sont accélérées, ajoutant une urgence à la résolution de ce problème.
Une autre étude empirique a révélé que les gens surestiment souvent leur capacité à détecter les informations fausses ou trompeuses, connue sous le nom de « point aveugle de la bêtise ». Des événements récents comme la pandémie de COVID-19 et l’invasion de l’Ukraine par la Russie ont démontré l’influence de la mésinformation et de la désinformation sur l’opinion publique, les comportements en matière de santé et les décisions politiques.
Défis pour les entreprises de réseaux sociaux
Malgré les efforts des entreprises pour lutter contre les fausses informations sur leurs plateformes, le rapport sur les menaces adverses du premier trimestre 2023 de Meta reconnaît que les opérations d’influence covertes, l’espionnage cybernétique et les réseaux de désinformation privés continuent de poser des problèmes importants sur les réseaux sociaux.
Le Dr Germani et ses collègues ont mené une étude pour évaluer dans quelle mesure les gens peuvent distinguer le contenu généré par des humains du texte créé par ChatGPT-3. L’étude impliquait 11 sujets sensibles à la désinformation, et des tweets synthétiques contenant des informations vraies et fausses ont été créés à l’aide de ChatGPT-3. Des tweets authentiques de Twitter sur les mêmes sujets ont également été inclus pour comparaison.
Les participants à l’étude ont été invités à identifier si un tweet contenait des informations vraies ou fausses et s’il avait été créé par un humain ou par ChatGPT-3. Les résultats ont révélé que les gens étaient plus compétents pour identifier la désinformation dans les tweets « faux organiques » (écrits par de vrais utilisateurs) par rapport aux tweets « faux synthétiques » (créés par ChatGPT-3). Inversement, les gens étaient plus susceptibles de reconnaître correctement les informations exactes dans les tweets « vrais synthétiques » (générés par ChatGPT-3) par rapport aux tweets « vrais organiques » (écrits par de vrais utilisateurs).
Le défi de la différenciation
L’étude a mis en évidence que les participants avaient du mal à différencier les tweets rédigés par des humains de ceux générés par ChatGPT-3. Les chercheurs suggèrent que le texte de GPT-3 peut être plus facile à lire et à comprendre, ce qui pourrait contribuer à cette difficulté. Fait intéressant, ChatGPT-3 n’a pas mieux performé que les humains pour reconnaître les informations et la désinformation, démontrant son « inconscience » de l’exactitude des informations qu’il produisait.
Le Dr Germani souligne la nécessité d’études à plus grande échelle sur les plateformes de réseaux sociaux pour comprendre comment les gens interagissent avec les informations générées par l’IA et comment cela façonne le comportement et l’adhésion aux recommandations de santé publique. L’étude souligne les capacités sans précédent des générateurs de texte par IA et insiste sur l’urgence de l’alphabétisation numérique à l’ère de l’IA.
Surveillance et atténuation des effets négatifs
Les chercheurs soulignent l’importance d’évaluer de manière critique les implications des grands modèles de langage comme ChatGPT-3 et de prendre des mesures pour atténuer tout effet négatif qu’ils pourraient avoir sur la société. À mesure que la technologie IA continue d’évoluer, la vigilance est cruciale pour garantir une utilisation responsable et pour faire face aux abus potentiels.
Les résultats de l’étude révèlent la capacité impressionnante mais troublante des générateurs de texte par IA à produire de la désinformation de manière plus convaincante que les humains. À mesure que l’influence et la popularité des générateurs de texte par IA augmentent, l’étude souligne la nécessité de mesures proactives pour lutter contre la désinformation et garantir une utilisation responsable de la technologie IA.
Remarque : L’image vedette représente une figure robotique alimentée par l’IA générant un nuage de texte déformé autour d’elle, froide et calculatrice par conception.
Ne vous contentez pas de lire les actualités crypto. Comprenez-les. Abonnez-vous à notre newsletter. C'est gratuit.
Avertissement : Les informations fournies ne constituent pas des conseils de trading. Cryptopolitan.com décline toute responsabilité quant aux investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener des recherches indépendantes et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
John Palmer
John Murangiri a rejoint Cryptopolitan avec des compétences en analyse de marché. John (alias JP) est diplômé de l'Université de Nairobi d'un baccalauréat en communication de masse et études médiatiques. Il a précédemment contribué à des analyses du marché crypto pour InsideBitcoins.com et Metacoingraph.
