Alors que les États-Unis se préparent à une nouvelle électiondent, la propagation de la désinformation politique suscite des inquiétudes. L'entreprise d'intelligence artificielle Midjourney envisage d'interdire la diffusion d'images de personnalités politiques de premier plan comme Joe Biden et Donald Trump. Cette décision fait suite à desdentliés à la création de fausses images et de deepfakes, qui ont soulevé des inquiétudes quant à l'influence potentielle de tels contenus sur l'opinion publique et les résultats électoraux.
Réponse aux menaces de désinformation
Midjourney, entreprise connue pour son outil de génération d'images par intelligence artificielle, se retrouve au cœur des débats concernant l'utilisation des technologies pour manipuler le discours public. Selon certaines sources, la société envisagerait d'interdire la création et la diffusion d'images représentant des personnalités politiques, notamment celles susceptibles d'induire en erreur ou de propager de fausses informations. Cette initiative est perçue comme une mesure proactive visant à limiter le risque que des contenus générés par IA soient instrumentalisés à des fins politiques ou pour semer la discorde durant la période électorale.
Déclaration du PDG de Midjourney et politiques de la plateforme
David Holz, PDG de Midjourney, aurait fait part des intentions de l'entreprise lors d'une discussion sur Discord. Il a reconnu l'attrait de créer des images mettant en scène des personnalités comme Trump, mais a insisté sur l'importance de la prudence, notamment dans le contexte politique actuel. Si Midjourney a déjà mis en place des politiques pour empêcher la création de contenus trompeurs, incluant des restrictions sur les images de personnalités et d'événements publics, l'interdiction potentielle des images à caractère politique marque une prise de position plus ferme dans la lutte contre la désinformation.
Défis et limites
Malgré ses efforts pour réglementer l'utilisation de ses outils d'IA, Midjourney peine à endiguer efficacement la prolifération des fausses images et des deepfakes. L'enquête de Bloomberg a révélé que, bien que l'entreprise ait mis en place des règles pour empêcher la création de contenus trompeurs, des failles subsistent, permettant à des images modifiées de contourner certaines restrictions. Par ailleurs, l'efficacité de l'interdiction de certaines images politiques demeure incertaine, car elle ne permet pas de résoudre le problème de fond des campagnes de désinformation menées par l'IA et leur impact potentiel sur l'intégrité des élections.
Efforts à l'échelle de l'industrie pour lutter contre la désinformation
Les réflexions de Midjourney s'inscrivent dans le cadre d'initiatives plus larges menées au sein du secteur technologique pour lutter contre la désinformation politique. Des plateformes comme ChatGPT et Meta explorent des stratégies pour étiqueter ou détecter les contenus générés par l'IA, afin de fournir aux utilisateurs des outils permettant d'dentles médias potentiellement trompeurs. Toutefois, si ces mesures peuvent contribuer àdentles contenus manipulés, elles ne permettent pas de résoudre pleinement les problèmes complexes posés par le détournement de l'IA dans la manipulation du débat public et l'influence sur les élections.
