Des législateurs présentent un projet de loi bipartisan pour lutter contre les deepfakes liés à l'IA

Des représentants de l'Iowa et du Massachusetts ont présenté un projet de loi bipartisan visant à lutter contre la menace croissante des « deepfakes » à caractère sexuel sur les plateformes en ligne. Ce texte est porté par la représentante républicaine Ashley Hinson (Iowa) et le représentant démocrate Jake Auchincloss (Massachusetts). Il vise à responsabiliser les géants du numérique qui ne suppriment pas ces contenus préjudiciables.

Le projet de loi, intitulé « Loi sur la protection de la vie privée intime », vise à modifier l’article 230 de la loi sur la décence des communications de 1996, qui protège actuellement les plateformes en ligne de toute responsabilité juridique concernant les contenus générés par les utilisateurs. S’il est adopté, Facebook, X (anciennement Twitter) et YouTube pourraient perdre leur immunité s’ils ne prennent pas de mesures contre la diffusion de contenus pornographiques truqués (deepfakes) sur leurs sites.

Un nouveau projet de loi exige que les plateformes technologiques s'attaquent au problème des deepfakes

Cette législation vise à lutter contre l'utilisation abusive croissante de la technologie deepfake, basée sur l'intelligence artificielle, qui crée des images et des vidéos réalistes mais falsifiées. Ces deepfakes montrent souvent des personnes dans des situations compromettantes ou sexuelles en fusionnant les visages des victimes avec des corps dans des vidéos pornographiques. Le FBI a constaté une augmentation des tentatives d'extorsion sexuelle par deepfake, où les victimes sont contraintes de payer une rançon pour empêcher la diffusion d'images explicites.

En vertu de ce projet de loi, les plateformes technologiques doivent créer un « processus raisonnable » pour prévenir les violations de la vie privée, ce qui comprend des moyens clairs et faciles de signaler, d'enquêter et de supprimer les contenus préjudiciables dans un délai de 24 heures, ainsi que l'enregistrement des données afin que les victimes puissent disposer de preuves en vue de poursuites judiciaires.

Les législateurs des États et du gouvernement fédéral prennent des mesures contre les deepfakes

L'Iowa a déjà pris des mesures au niveau de l'État pour lutter contre ce problème. Plus tôt cette année, les législateurs de l'État ont adopté des lois interdisant la diffusion d'images pornographiques modifiées numériquement, passibles de peines allant jusqu'à deux ans d'emprisonnement et d'amendes. Les personnes âgées de plus de dix-huit ans reconnues coupables seront tenues de s'inscrire au registre des délinquants sexuels.

Au niveau fédéral, une loi récemment adoptée permet aux victimes de poursuivre en justice les créateurs, les diffuseurs et les destinataires de deepfakes à caractère sexuel non consentis. D'autres projets de loi, visant à protéger les mineurs des activités dangereuses en ligne, obligent les entreprises de médias sociaux à proposer des options permettant de limiter la communication entre les enfants et de désactiver les fonctionnalités autorisant une utilisation prolongée.

Bien que des pressions s'exercent en faveur d'une réglementation plus stricte, les mesures proposées soulèvent des inquiétudes quant au respect du Premier Amendement. Des organisations de défense des droits civiques, comme l'Union américaine pour les libertés civiles (ACLU), affirment que la loi KOSA pourrait limiter l'accès des mineurs à des ressources importantes ou restreindre leur liberté d'expression. L'ACLU met en garde contre le risque que ce projet de loi n'entrave également la capacité des adultes à s'exprimer librement en ligne ou à accéder à des points de vue divers.

En réponse, Hinson a souligné que son projet de loi vise à trouver un équilibre entre la protection des individus contre les deepfakes et la préservation des droits garantis par le Premier Amendement. Elle s'est dite disposée à collaborer avec les législateurs afin de s'assurer que la législation ne porte pas atteinte à la liberté d'expression, mais qu'elle s'attaque efficacement au problème.