Microsoft exhorte le Congrès américain à traiter les deepfakes générés par l'IA

Microsoft a appelé le Congrès à adopter une nouvelle législation ciblant les deepfakes générés par l'IA. Brad Smith, Vice-Président et Président de Microsoft, a souligné l'urgence pour les législateurs de faire face à la menace croissante de la technologie deepfake. 

Dans un récent article de blog, Smith a souligné l'importance d'adapter les lois pour faire face à la fraude par deepfake et prévenir l'exploitation. Selon Smith, il devrait y avoir un statut juridique que l'on peut utiliser pour poursuivre les arnaques et fraudes liées aux deepfakes.

Microsoft propose un statut fédéral contre la fraude par deepfake

Selon le rapport de Microsoft, plusieurs interventions juridiques peuvent être prises pour prévenir la mauvaise utilisation de la technologie deepfake. L'une des suggestions est de créer un statut fédéral « de fraude par deepfake ». Cette nouvelle loi traitera à la fois des dimensions civiles et pénales de la fraude par contenu synthétique et pourrait comprendre les mesures suivantes : poursuites pénales, saisies civiles et injonctions. 

Le rapport soutient également l'exigence d'identification du contenu synthétique. Grâce à la régulation de l'utilisation d'outils de provenance avancés, le public appréciera ainsi l'origine du contenu qu'il reçoit en ligne. Cela est important pour la crédibilité de l'information numérique et pour arrêter la propagation de fausses nouvelles. 

« Le Congrès devrait obliger les fournisseurs de systèmes d’IA à utiliser des outils de traçabilité de pointe pour étiqueter le contenu synthétique. Cela est essentiel pour renforcer la confiance dans l’écosystème de l’information et aidera le public à mieux comprendre si le contenu est généré par l’IA ou manipulé. »

Brad Smith

Par ailleurs, Microsoft suggère de modifier les lois actuelles sur l’exploitation des mineurs et les images explicites non consensuelles afin de couvrir les images produites par l’IA. Cela garantirait que les cadres juridiques soient alignés sur les développements technologiques, afin de protéger les groupes vulnérables. 

Le Sénat américain a récemment pris des mesures dans ce sens en adoptant un projet de loi visant les deepfakes sexuellement explicites. Cette nouvelle loi permet aux victimes de deepfakes sexuellement explicites générés par l’IA et créés sans leur consentement de poursuivre les créateurs du contenu. 

La FCC dit « non » aux appels robotiques vocaux générés par l’IA

Microsoft a également répondu à la mauvaise utilisation de l’IA en renforçant les mesures de sécurité de ses produits. L’entreprise a récemment amélioré le créateur d’images par IA Designer suite à une vulnérabilité qui avait été exploitée pour produire des images obscènes de célébrités. Smith a déclaré que le secteur privé doit mettre en place des mesures pour s’assurer que l’IA n’est pas mal utilisée, et qu’il incombe aux entreprises technologiques de garantir que les utilisateurs ne subissent aucun préjudice. 

La FCC a déjà agi contre la mauvaise utilisation de l’IA en interdisant l’utilisation de voix générées par l’IA dans les appels robotiques. Pourtant, l’IA générative s’améliore de plus en plus dans la génération de faux audio, images et vidéos. Cette question a récemment été exacerbée par une vidéo deepfake de la vice-présidente américaine Kamala Harris, qui s’est propagée sur les réseaux sociaux et a illustré le danger croissant de la technologie deepfake.

D’autres organisations à but non lucratif, telles que le Center for Democracy and Technology (CDT), s’impliquent également dans la lutte contre les abus liés aux deepfakes. Comme l’a noté Tim Harper, analyste principal des politiques au CDT, l’année 2024 marque un tournant critique pour l’IA dans les élections, et les gens doivent s’y préparer. La résistance actuelle aux deepfakes est une forme précoce de ce qui pourrait être une lutte prolongée contre la manipulation technologique.