La prolifération des outils de création de deepfakes sur les marchés du darknet

Selon un récent rapport de l'entreprise de recherche Kaspersky, les marchés modernes du darknet et l'émergence d'une gamme d'outils et de services de création de deepfakes représentent une menace croissante tant pour les particuliers que pour les grandes entreprises.

La montée en puissance de la technologie deepfake

Les chercheurs de Kaspersky Lab ont noté que l'achat et la vente de kits de développement de deepfakes et de services associés sont en croissance sur les marchés du darknet. Ces plateformes permettent de générer du contenu trompeur en exploitant l'IA générative, afin de créer de fausses vidéos, des extraits audio et des images destinés à commettre des fraudes, du chantage et du vol de données.

Selon le rapport, ces statistiques sont effrayantes ; il ne faut par exemple qu'une minute et 300 dollars pour créer une fausse vidéo. De plus, l'accroissement de l'accessibilité offert par les technologies d'IA et de ML ne donne pas seulement aux attaquants la possibilité de mener leurs campagnes de manière efficace, mais leur permet également de planifier et d'agir selon leurs desseins.

Ces deepfakes créent des images fabriquées qui sont indissociables des individus de la vie réelle et possèdent des schémas de parole naturels ainsi que des expressions faciales réalistes, rendant leur détection quasi impossible. Toutefois, plusieurs initiatives ont été entreprises pour attirer l'attention du public sur les dangers associés aux deepfakes.

Il est toutefois très difficile de distinguer accidentellement les vidéos réelles des fausses. Une enquête de Kaspersky sur la technologie des entreprises et la digitalisation révèle que la moitié des utilisateurs de META se considèrent capables d'identifier du contenu deepfake, alors que seuls 25 % des individus le font réellement. Cet écart prouve la possibilité d'ingénierie sociale au sein des organisations ou à l'égard des particuliers dans le cadre d'une exploitation ciblée des deepfakes.

Perspectives pour les entreprises et les particuliers

Les conséquences dangereuses de la propagation des deepfakes constituent une menace potentielle majeure non seulement pour les entreprises, mais aussi pour les particuliers. Cette ruse peut utiliser ces applications pour effectuer diverses fraudes financières par des moyens tels que l'usurpation d'identité de PDG et la génération de faux paiements, ainsi que pour faire du chantage avec des vidéos ou des photos humiliantes. De plus, la prolifération de la désinformation et des arnaques alimentées par les deepfakes érode la confiance et la sécurité dans les systèmes de communication.

Hafeez Rehman, responsable du groupe technique chez Kaspersky, suggère que pour lutter contre la menace des deepfakes, une approche proactive doit être adoptée. Il souligne la capacité de générer instantanément des voix pour usurper l'identité des personnes, qualifiant cette évolution de potentiellement dangereuse. Kaspersky recommande aux particuliers et aux entreprises de se familiariser avec les spécificités des vidéos deepfake et d'utiliser des outils tels que Kaspersky Threat Intelligence pour suivre l'évolution du paysage des menaces.

De plus, une attention particulière devrait être accordée au développement d'un « pare-feu humain » plus efficace, c'est-à-dire la formation et la sensibilisation du personnel pour améliorer leurs compétences dans la détection des menaces deepfake. Bien que ces technologies deepfake fassent rapidement progresser leurs capacités et que leur propagation devienne un facteur majeur compliquant et sapant la sécurité des communications numériques.