Un projet de loi bipartisan vise à réprimer la fraude IA et les deepfakes de responsables fédéraux

Un projet de loi bipartisan intitulé « The AI Fraud Deterrence Act » a été proposé par deux législateurs, et vise à répondre à l'usage croissant de l'intelligence artificielle dans les escroqueries, en particulier celles impliquant des deepfakes ciblant des responsables fédéraux. 

Cette législation se concentrera sur la modernisation des lois américaines existantes contre la fraude afin de prendre en compte le rôle que la technologie de l'intelligence artificielle a joué dans les récents incidents à grand retentissement où des audio ou vidéos générés par l'IA ont trompé des responsables ou le public.

En savoir plus sur le projet de loi bipartisan

Le projet de loi, proposé par les représentants Ted Lieu (D-Calif.) et Neal Dunn (R-Fla.), deux législateurs qui en ont assez de la facilité et de l'audace avec lesquelles les criminels utilisent désormais l'IA dans leurs pratiques trompeuses, vise à élargir les peines pour les escroqueries IA et à criminaliser l'usurpation d'identité de responsables fédéraux à l'aide de l'IA.

« À mesure que la technologie IA progresse à un rythme rapide, nos lois doivent suivre le rythme », a déclaré Dunn dans un communiqué annonçant le projet de loi. « The AI Fraud Deterrence Act renforce les peines pour les crimes liés à la fraude commis avec l'aide de l'IA. Je suis fier de co-parrainer cette législation pour protéger l'identité du public et empêcher l'abus de cette technologie innovante. »

Lieu est d'accord et a déclaré la semaine dernière à NBC News que la majorité des Américains souhaitent des « garde-fous raisonnables pour l'IA », car ils ne pensent pas qu'un « Far West complet soit utile ».

En vertu de la projet de loi, la peine maximale pour fraude serait doublée, passant de 1 million à 2 millions de dollars dans les cas où l'IA est délibérément utilisée pour faciliter le crime. Il inclurait également la tromperie médiatisée par l'IA dans les définitions de la fraude postale et de la fraude par télécommunications, ce qui signifierait qu'il serait possible de poursuivre les individus qui utilisent l'IA pour commettre l'un ou l'autre type de fraude.

Dans les deux cas, les criminels pourraient être frappés d'amendes d'un million de dollars et jusqu'à vingt ans de prison pour fraude postale, et trois ans pour fraude par télécommunications. 

Le projet de loi désapprouge également l'usurpation d'identité de responsables fédéraux avec des deepfakes IA, soulignant des cas où des IA ont été utilisées pour tenter d'imiter la cheffe de cabinet de la Maison-Blanche Susie Wiles et le secrétaire d'État Marco Rubio plus tôt cette année.

La fraude existe depuis aussi longtemps que les humains, mais les experts estiment que grâce à l'IA, la qualité des productions frauduleuses a augmenté. 

En décembre, le FBI a averti que « l'IA générative réduit le temps et les efforts que les criminels doivent dépenser pour tromper leurs cibles », ajoutant que l'IA « peut corriger les erreurs humaines qui auraient autrement servi de signes d'alerte pour la fraude ».

Maura R. Grossman, professeure de recherche en informatique à l'Université de Waterloo en Ontario et avocate, croit également que l'IA permet une nouvelle ère de la tromperie : « L'IA présente une échelle, une portée et une vitesse pour la fraude qui sont très, très différentes des fraudes du passé. »

Les modèles IA sont devenus plus avancés

Cependant, le fait qu'elle facilite le crime n'est pas le plus grand problème. Les observateurs s'inquiètent désormais du fait que les institutions actuelles, comme les tribunaux judiciaires, peinent à suivre le développement rapide qui se produit dans le secteur de l'IA. 

« Les années IA sont comme les années chien », a déclaré Hany Farid, professeur d'informatique à l'Université de Californie à Berkeley et cofondateur de GetReal Security, une entreprise leader dans l'authentification des médias numériques, concernant la vitesse des progrès de l'IA.

Par le passé, il n'était pas trop difficile de distinguer le contenu IA du contenu réel, en particulier pour les images ; cependant, aujourd'hui, ils sont devenus plus avancés, et même les utilisateurs les plus expérimentés peinent désormais à déterminer si un média est réel ou généré. 

L'avertissement du FBI en décembre conseillait aux individus de surveiller les écarts dans les images et les vidéos pour identifier les médias générés par l'IA : « Recherchez des imperfections subtiles dans les images et les vidéos, telles que des mains ou des pieds déformés. »

Cependant, Farid estime que cet ancien conseil est erroné et même nuisible. « L'astuce des multiples mains, ce n'est plus vrai », a déclaré Farid. « Vous ne pouvez pas chercher des mains ou des pieds. Rien de tout cela ne fonctionne. »

Le projet de loi proposé par Lieu et Dunn met l'accent sur l'importance d'étiqueter le contenu généré par l'IA. Il précise également qu'il y a un moment et un lieu pour les médias générés par l'IA. Par exemple, si un contenu est étiqueté comme satirique, l'étiquette clarifie qu'il n'est pas authentique et est donc exempté de punition.