L'intelligence artificielle est utilisée pour manipuler les élections, OpenAI lance l'alerte
- Dans son dernier rapport, OpenAI indique que son chatbot est devenu un vecteur majeur de création de désinformation à l'approche des élections nationales.
- OpenAI souligne la nécessité de mettre en place des mesures de sécurité robustes et des cadres réglementaires solides pour freiner les campagnes de manipulation électorale étatique alimentées par l'IA.
- À ce jour, le contenu généré par l'IA n'est pas encore suffisamment convaincant pour influencer les opinions politiques.
Le rapport d'OpenAI a déclaré que ses modèles sont utilisés pour influencer les élections. Il a également indiqué qu'il avait supprimé plus de 20 opérations qui s'appuyaient sur son modèle IA pour mener à bien de telles activités malveillantes.
L'OpenAI rapport, « Une mise à jour sur la perturbation des utilisations trompeuses de l'IA », a également souligné la nécessité de vigilance lors de l'interaction avec le contenu politique.
Le document a montré une tendance où les modèles d'OpenAI deviennent un outil majeur pour perturber les élections et répandre de la désinformation politique. Les acteurs malveillants, souvent parrainés par des États, utilisent ces modèles IA pour diverses activités, y compris la génération de contenu pour de faux personnages sur les réseaux sociaux et l'ingénierie inverse de logiciels malveillants.
L'influence croissante d'OpenAI dans les élections et la politique IA
Fin août, OpenAI a perturbé une campagne iranienne qui produisait du contenu sur les réseaux sociaux pour influencer les opinions lors des élections américaines, de la politique vénézuélienne, du conflit à Gaza et en Israël. Il a signalé que certains comptes, qui ont par la suite été bannis, publiaient également sur les élections rwandaises.
Il a également découvert qu'une entreprise israélienne était impliquée dans une tentative de manipulation des résultats des sondages en Inde.
Cependant, OpenAI a noté que ces activités n'ont pas connu un succès viral ni cultivé d'audiences substantielles. Les publications sur les réseaux sociaux liées à ces campagnes ont obtenu une traction minimale. Cela pourrait indiquer la difficulté à influencer l'opinion publique par le biais de campagnes de désinformation alimentées par l'IA.
Historiquement, les campagnes politiques sont généralement alimentées par la désinformation des partis en lice. Cependant, l'avènement de l'IA présente une menace différente pour l'intégrité des systèmes politiques. Le Forum Économique Mondial (WEF) a déclaré que 2024 est une année historique pour les élections, avec 50 pays tenant des élections.
Les LLMs utilisés au quotidien ont déjà la capacité de créer et de propager de la désinformation plus rapidement et de manière plus convaincante.
Réglementation et efforts collaboratifs
En réponse à cette menace potentielle, OpenAI a déclaré qu'elle travaille avec les parties prenantes pertinentes en partageant des renseignements sur les menaces. Elle s'attend à ce que cette approche collaborative soit suffisante pour surveiller les canaux de désinformation et favoriser une utilisation éthique de l'IA, en particulier dans les contextes politiques.
OpenAI rapporte : « Malgré l'absence d'engagement significatif du public résultant de cette opération, nous prenons au sérieux tout effort visant à utiliser nos services dans le cadre d'opérations d'influence étrangère. »
L'entreprise d'IA a également souligné que des défenses de sécurité robustes doivent être mises en place pour empêcher les cyberattaquants parrainés par des États, qui utilisent l'IA pour créer des campagnes en ligne trompeuses et perturbatrices.
Le WEF a également souligné la nécessité de mettre en place des réglementations sur l'IA, déclarant : « Les accords internationaux sur des normes interopérables et des exigences réglementaires de base joueront un rôle important dans la stimulation de l'innovation et l'amélioration de la sécurité de l'IA. »
Le développement de cadres efficaces nécessite des partenariats stratégiques entre les entreprises technologiques telles qu'OpenAI, le secteur public et les acteurs privés, ce qui aidera à mettre en œuvre des systèmes d'IA éthiques.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Hannah Collymore
Hannah est rédactrice et éditrice avec près de dix ans d'expérience dans la rédaction de blogs et le reporting d'événements dans l'espace crypto. Chez Cryptopolitan, Hannah contribue à la page actualités, en rapportant et en analysant les derniers développements dans les secteurs de la DeFi, des RWA, de la régulation des crypto-monnaies, de l'IA et des technologies de pointe. Elle est diplômée de l'Université Arcadia avec un diplôme en administration des affaires.
