Alors que le Congrès est à quelques jours de la fin de sa session, le sénateur du Texas, Ted Cruz, fait un effort de dernière minute pour adopter un projet de loi qui criminalise la vengeance pornographique générée par l'IA.
La proposition, S.4569, vise les deepfakes, une technologie de plus en plus populaire qui superpose le visage d'une personne sur des images ou des vidéos pornographiques sans son consentement. S'il est adopté, le projet de loi obligerait les sites Web et les plateformes de médias sociaux à supprimer le contenu dans les 48 heures suivant la notification par une victime.
Le projet de loi est également bipartisan, co-parrainé par la sénatrice démocrate Amy Klobuchar, et il a été adopté à l'unanimité par le Sénat le 3 décembre. Désormais, tous les regards sont tournés vers la Chambre, où les législateurs n'ont plus que quelques jours pour approuver le projet de loi complémentaire, HR. 8989.
Lors d'une conférence de presse le 11 décembre, Cruz a déclaré : « Chaque victime devrait avoir le droit de dire : 'C'est moi.' C'est mon image, et vous n'avez pas ma permission de mettre ces ordures là-bas.
Les victimes s'expriment alors que les entreprises technologiques soutiennent le projet de loi
Elliston Berry, une jeune fille de 15 ans dont l'image modifiée par l'IA s'est répandue comme une traînée de poudre sur Snapchat, a partagé son cauchemar lors de l' événement .
"Ce matin-là, je me suis réveillée, c'était l'un des pires sentiments que j'aie jamais ressentis", a-t-elle déclaré, décrivant comment la fausse image a circulé pendant neuf mois avant que le bureau de Cruz n'intervienne pour la faire supprimer. Les innombrables efforts de sa famille pour inciter les plateformes à agir ont échoué.
L'histoire de Berry n'est pas unique, et c'est là le problème. La pornographie deepfake a explosé, obligeant les victimes à se démener pour récupérer leur vie privée pendant que les entreprises technologiques rattrapent leur retard.
Pour la mère de Berry, arriver au bureau de Cruz a été un tournant. Il a fallu l’intervention directe d’un sénateur américain pour qu’une plateforme sociale majeure retire le contenu. Pour la plupart des victimes, ce type d’accès n’est pas une option.
Les géants de la technologie Google, Meta, Microsoft et TikTok soutiennent la législation de Cruz. Cela peut paraître surprenant, mais la réalité est qu’ils subissent une pression croissante pour intensifier leurs efforts. Les critiques dénoncent depuis longtemps les plateformes qui traînent les pieds dans la suppression des contenus deepfake. Le projet de loi de Cruz leur force la main : 48 heures, pas d'excuses.
Le sénateur Klobuchar a souligné la nécessité d'agir maintenant. « Ce travail consiste à construire un avenir, à relever les défis du nouvel environnement dans lequel nous vivons et à ne pas simplement prétendre que cela n’existe plus. »
Un problème que personne ne peut ignorer
L’IA a rendu la création de deepfakes d’une simplicité troublante. Des outils qui nécessitaient autrefois des compétences et des ressources avancées sont désormais accessibles à toute personne disposant d’un ordinateur portable et d’un accès à Internet. Ce n’est pas une coïncidence si 98 % de tous les contenus deepfakes en ligne sont pornographiques.
Les chiffres sont choquants. Cette année, le Centre national pour les enfants disparus et exploités (NCMEC) a signalé 4 700 cas de matériels d’abus sexuels sur enfants générés par l’IA (CSAM).
La technologie alimente également les recoins les plus sombres d’Internet. Un cas récent dans le Wisconsin a vu un homme de 42 ans arrêté pour avoir créé et distribué des milliers d’images explicites de mineurs par l’IA. Un autre cas concernait un pédopsychiatre condamné à 40 ans de prison pour avoir utilisé l’IA pour générer des images modifiées d’enfants réels.
La pornographie deepfake ne s’arrête pas aux mineurs. Les célébrités, les influenceurs et les gens ordinaires sont ciblés à un rythme alarmant. Toute personne ayant une image publique – ou même un compte sur les réseaux sociaux – peut devenir une victime. En l’absence de lois fédérales, les victimes ont peu de recours.
L’IA ne fait que devenir plus intelligente. Si les législateurs n’agissent pas maintenant, les dégâts ne feront que s’aggraver. Les législateurs le savent clairement. Et les victimes aussi. C'est maintenant au Congrès de décider s'il doit riposter ou laisser la crise des deepfakes faire rage sans contrôle.
Cryptopolitan Academy: fatiguée des balançoires du marché? Découvrez comment DeFi peut vous aider à créer un revenu passif stable. Inscrivez-vous maintenant
