La technologie Deepfake, qui utilise des plates-formes telles que Midjourney 5.1 et DALL-E 2 d'OpenAI, a démontré des capacités remarquables dans la production d'images et de vidéos réalistes. Cependant, le Federal Bureau of Investigation (FBI) des États-Unis a récemment émis un avertissement, déclarant que les criminels exploitent les deepfakes pour cibler les victimes à des fins d'extorsion.
Le FBI met en garde le public contre l'escroquerie d'extorsion
Selon le FBI, il a reçu des signalements de victimes, y compris des mineurs et des adultes non consentants, dont les photos ou vidéos ont été manipulées pour créer un contenu explicite. Dans une alerte de service public (PSA) publiée lundi, l'agence a souligné la prévalence croissante des cas d'extorsion en ligne, en particulier ceux impliquant des "escroqueries par sextorsion" employant des deepfakes. Les forces de l'ordre ont reçu plus de 7 000 rapports au cours de la seule année précédente concernant l'extorsion en ligne visant des mineurs, avec une augmentation des dent liés aux deepfakes depuis avril.
Les deepfakes sont des contenus audio ou vidéo fabriqués grâce à l'intelligence artificielle, ce qui rend souvent difficile de discerner l'authenticité du matériel. La montée en puissance de plates-formes telles que Midjourney 5.1 et DALL-E 2 d'OpenAI a contribué à la sophistication et à l'accessibilité de la technologie deepfake. Malheureusement, cela a également permis à des acteurs malveillants d'exploiter la technologie à des fins illicites.
L'agence souligne les risques associés à l'utilisation de la technologie
L'avertissement du FBI fait suite à plusieurs dent qui mettent en évidence les dangers potentiels des deepfakes. Par exemple, une vidéo deepfake mettant en vedette Tesla et le PDG de Twitter, Elon Musk, a été largement diffusée pour tromper les investisseurs en crypto-monnaie. La vidéo manipulée utilisait des séquences d'interviews précédentes de Musk, intelligemment éditées pour s'adapter au récit de l'arnaque.
Il est essentiel de noter que tous les deepfakes ne sont pas malveillants. Certains deepfakes ont attiré l'attention pour leurs éléments humoristiques ou créatifs, comme une vidéo montrant le pape François portant une veste Balenciaga blanche. De plus, des deepfakes générés par l'IA ont été utilisés pour recréer numériquement des personnes décédées, dans le but de les ramener à la vie dans divers contextes.
En réponse à ces menaces, le FBI a formulé des recommandations pour se prémunir contre l'extorsion liée aux deepfakes. Ils déconseillent de payer une rançon, car cela ne garantit pas que les criminels s'abstiendront de publier le contenu deepfake. L'agence souligne également l'importance de faire preuve de prudence lors du partage d'informations personnelles et de contenu en ligne, suggérant l'utilisation de fonctionnalités de confidentialité pour limiter l'accès aux comptes. Surveiller les activités en ligne des enfants, être vigilant quant aux comportements inhabituels de connaissances passées et effectuer des recherches fréquentes d'informations personnelles et sur les membres de la famille en ligne sont d'autres mesures recommandées par le FBI.
