La plateforme de médias sociaux X sous le feu pour sa gestion de la vidéo deepfake
- La plateforme X a été critiquée pour sa lenteur à agir face à la vidéo deepfake de Bobbi Althoff ; Althoff confirme qu’elle est générée par l’IA.
- Le démenti d’Althoff concernant la vidéo générée par l’IA intervient après 6.5 millions de vues.
- Les appels à une intervention gouvernementale s’intensifient alors que la menace des deepfakes grandit ; OpenAI interdit l’utilisation de l’IA en politique, sous le coup des inquiétudes.
Après un scandale impliquant une vidéo deepfake mettant en vedette l'hôte de podcast Bobbi Althoff, la plateforme de médias sociaux X est au cœur d'une controverse concernant sa réponse à la diffusion de contenu non consensuel. L'incident a ravivé les préoccupations quant à la capacité de la plateforme à faire respecter ses politiques contre ce type de matériel et a déclenché une conversation plus large sur la prolifération de la technologie deepfake.
Althoff répond au deepfake généré par l'IA
Bobbi Althoff, hôtesse du populaire podcast « The Good Podcast », est devenue la dernière victime de la technologie deepfake lorsqu'une vidéo sexuellement explicite prétendument la mettant en scène a circulé largement sur la plateforme de médias sociaux X. En réponse, Althoff s'est adressée à Instagram pour clarifier que la vidéo avait été générée par l'IA, niant catégoriquement toute implication. Malgré sa dénonciation rapide, la vidéo a recueilli plus de 6,5 millions de vues avant que des mesures significatives ne soient prises.
L'inefficacité de la plateforme X à enrayer le contenu deepfake
L'incident impliquant Althoff met en lumière la lutte de la plateforme pour combattre efficacement la propagation des vidéos deepfake non consensuelles malgré des politiques claires contre ce type de contenu. Malgré les réglementations déclarées de X, la vidéo est restée accessible pendant près d'une journée, de nouveaux posts continuant à apparaître. Ce délai de réponse a suscité des critiques de la part des utilisateurs et des experts de l'industrie, soulignant le besoin urgent de meilleurs mécanismes de détection et de modération.
L'essor de la technologie deepfake a incité les leaders de l'industrie à appeler à des mesures réglementaires accrues pour faire face à la prolifération du contenu non consensuel. Plus de 800 experts, y compris des candidats à la présidence, des PDG de la tech et des figures éminentes comme Yoshua Bengio, ont signé une lettre ouverte exhortant les gouvernements à intervenir d'urgence. Les préoccupations concernant la mauvaise utilisation potentielle des deepfakes, en particulier dans les contextes politiques, ont encore alimenté les demandes de réglementations plus strictes.
En réponse aux préoccupations croissantes, OpenAI a décidé d'interdire l'utilisation de l'IA pour les campagnes politiques et le lobbying, signalant une approche proactive pour atténuer les risques associés à la manipulation par l'IA.
Réponse de la plateforme et analyse des politiques
Bien que les politiques de X interdisent le partage d'images ou de vidéos explicites sans consentement, elles n'abordent pas explicitement la pornographie deepfake. La réponse lente et souvent inefficace de la plateforme à ce type de contenu a soulevé des questions sur son engagement à faire respecter ses directives. Malgré la violation évidente de ses politiques, les actions de X ont été perçues comme inadéquates, alimentant la frustration parmi les utilisateurs et les groupes de défense.
La difficulté à distinguer le contenu authentique du contenu généré par l'IA exacerbe le défi de la détection et de la suppression rapides des vidéos deepfake. Alors que les plateformes de médias sociaux luttent avec ce problème, il y a un consensus croissant sur la nécessité de mesures de cybersécurité améliorées et de technologies de détection de l'IA pour protéger les utilisateurs contre la manipulation malveillante.
Le scandale du deepfake impliquant Bobbi Althoff a mis en lumière la menace pervasive posée par le contenu généré par l'IA sur les plateformes de médias sociaux. Malgré les efforts pour combattre la propagation du matériel non consensuel, des plateformes comme X font face à des défis dans l'application efficace de leurs politiques.
Alors que les préoccupations concernant la technologie deepfake persistent, les appels à une intervention réglementaire et à l'amélioration des mécanismes de détection se sont intensifiés. L'incident sert de rappel frappant de la nécessité urgente de faire face aux risques associés à la manipulation par l'IA et de protéger les utilisateurs contre l'exploitation à l'ère numérique.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brian Koome
Brian Koome compte plus de sept ans d'expérience dans la rédaction sur la blockchain et les cryptomonnaies, étant actif dans le secteur depuis 2017. Il a contribué à des publications de premier plan, dont BlockToday.com. Par ailleurs, il a développé le cours Ethereum 101 pour BitDegree.org avant de rejoindre Cryptopolitan en tant qu'auteur à temps plein. Brian rédige des guides intemporels (EG), des analyses approfondies, des interviews et des analyses de prix. Son focus sur la DeFi, l'innovation blockchain et les projets crypto émergents ravit ses lecteurs.
