MrBeast dénonce une arnaque aux deepfakes : 10 000 iPhone 15 Pro sur TikTok

Le célèbre YouTubeur et philanthrope MrBeast a récemment interpellé TikTok (ByteDance Ltd.) au sujet de la diffusion d'une vidéo truquée (deepfake) sur sa plateforme. Cette vidéo mettait en scène un avatar de MrBeast, généré par intelligence artificielle, annonçant un concours exceptionnel offrant 10 000 iPhone 15 Pro pour seulement 2 dollars pièce. Cetdent souligne l'inquiétude croissante suscitée par les deepfakes sur les réseaux sociaux et leur potentiel de tromperie. Cet article analyse en détail cette controverse et ses implications pour l'authenticité des contenus en ligne.

L'escroquerie aux deepfakes

TikTok, une plateforme de médias sociaux très populaire, a diffusé une publicité mettant en scène un deepfake de MrBeast généré par intelligence artificielle. Dans la vidéo, l'imposteur prétendait organiser le « plus grand concours mondial d'iPhone 15 », chaque iPhone étant proposé à seulement 2 dollars. Cette offre audacieuse a naturellementtracun vif intérêt, notamment compte tenu de la réputation de MrBeast pour l'organisation de concours et de distributions gratuites.

Réponse de MrBeast

Après avoir découvert la vidéo truquée, MrBeast a exprimé son inquiétude sur les réseaux sociaux. Il a souligné que « beaucoup de gens reçoivent cette fausse publicité me concernant » et s'est interrogé sur la capacité des plateformes de réseaux sociaux à lutter efficacement contre la prolifération des deepfakes générés par l'IA. Sa prise de parole publique l'a ajouté au concert de protestations de célébrités victimes d'usurpations d'identité par deepfake sur les réseaux sociaux.

Démasquer le deepfake

Bien que la publicité truquée (deepfake) reprenne le logo officiel de MrBeast et une coche bleue, des signes de manipulation par IA étaient perceptibles par les observateurs attentifs. Ces derniers ont notamment relevé des voix déformées et des mouvements de bouche artificiels, caractéristiques des contenus générés par IA. Malgré cela, la vidéo a réussi à se faire trac, démontrant l'efficacité de telles arnaques, en particulier auprès des utilisateurs les moins avertis.

Réponse de TikTok

Suite à la polémique, un porte-parole de TikTok a confirmé que la publicité frauduleuse avait été rapidement supprimée quelques heures après sa publication, et que le compte associé à la diffusion du deepfake avait été suspendu pour violation du règlement. TikTok a également pris des mesures pour lutter contre la prolifération des contenus générés par l'IA en mettant à disposition des outils permettant aux créateurs d'étiqueter ces contenus et en testant des mécanismes d'étiquetagematic .

Une tendance dans les deepfakes de célébrités

MrBeast n'est pas la seule célébrité à avoir été victime de deepfakes. Récemment, l'acteur Tom Hanks a publié un communiqué sur Instagram dénonçant un deepfake de lui-même faisant la promotion d'un programme dent. Il a précisé n'y être « aucunement impliqué ». De même, la fille de Robin Williams, Zelda, a exprimé son malaise face aux recréations vocales de son père par intelligence artificielle, les qualifiant de « personnellement perturbantes » et de « monstres de Frankenstein »

L'acteur britannique Stephen Fry a lui aussi été victime d'une utilisation abusive de l'intelligence artificielle : sa voix a été utilisée sans autorisation dans des contenus liés aux livres Harry Potter. Cesdentsoulignent l'accélération du phénomène des deepfakes à l'ère des technologies d'intelligence artificielle avancées.

Le défi de la détection des deepfakes

Alors que des géants de la technologie comme Google travaillent sur des solutions telles que SynthID pour détecter les images générées par l'IA, la lutte contre les deepfakes audio et vidéo demeure un défi complexe. Détecter la manipulation par l'IA en temps réel est une tâche ardue, et il faudra du temps avant que des solutions complètes soient disponibles. En attendant, les utilisateurs sont invités à faire preuve de prudence, à utiliser leur bon sens et à vérifier les informations qui leur paraissent suspectes.

La controverse autour du deepfake de MrBeast nous rappelle brutalement les risques que représentent les deepfakes générés par l'IA sur les réseaux sociaux. Elle souligne la nécessité pour des plateformes comme TikTok de rester vigilantes afin d'empêcher la diffusion de contenus trompeurs. De plus, elle met en évidence l'urgence de développer des technologies permettant de lutter contre la prolifération d'usurpations d'identité de célébrités et de personnalités publiques générées par l'IA. En attendant la mise en place de solutions complètes, les internautes doivent rester vigilants et faire preuve d'esprit critique pour se prémunir contre de telles escroqueries.