Préjudices basés sur le genre dans l'IA : Se protéger contre les altérations non consensuelles d'images
- La retouche d'images par IA peut nuire aux personnes en modifiant leur apparence sans autorisation, comme cela est arrivé à la députée australienne Georgie Purcell.
- Les vidéos deepfake sexuelles non consensuelles, ciblant majoritairement les femmes, se propagent rapidement, soulevant des inquiétudes mondiales.
- Une coopération mondiale et des mesures proactives sont nécessaires pour combattre les effets néfastes du contenu généré par l'IA et protéger les droits et la sécurité des individus.
La députée australienne Georgie Purcell a récemment soulevé des préoccupations concernant une image numériquement altérée qui déformait son corps et retirait des parties de ses vêtements sans son consentement. Cet incident met en lumière les conséquences potentiellement sexistes et discriminatoires des technologies IA non régulées.
Bien que souvent considérés comme simples dans l'usage quotidien, les outils assistés par l'IA peuvent involontairement perpétuer les biais sociétaux. Lorsqu'on leur demande de modifier des photographies, ces outils peuvent exagérer certains attributs approuvés par la société, tels que la jeunesse et la sexualisation, particulièrement présents dans les images de femmes.
Une préoccupation majeure surgit avec la prolifération de contenus deepfake sexualisés, ciblant principalement les femmes. Des rapports indiquent qu'un effarant 90 à 95 % des vidéos deepfake sont de la pornographie non consensuelle, avec environ 90 % mettant en vedette des femmes comme victimes. Des cas de création et de partage non consensuels d'images deepfake sexualisées ont émergé dans le monde entier, touchant des individus de diverses démographies, y compris les jeunes femmes et des célébrités comme Taylor Swift.
La nécessité d'une action mondiale
Bien que des mesures législatives existent dans certaines régions pour faire face au partage non consensuel de deepfakes sexualisés, les lois concernant leur création restent incohérentes, en particulier aux États-Unis. Le manque de réglementations internationales cohérentes souligne la nécessité d'une action mondiale collective pour lutter efficacement contre ce problème.
Les efforts pour détecter le contenu généré par l'IA sont mis au défi par les technologies avancées et la disponibilité croissante d'applications facilitant la création de contenu sexuellement explicite. Cependant, blâmer uniquement la technologie néglige la responsabilité des développeurs de technologies et des plateformes numériques de prioriser la sécurité et les droits des utilisateurs.
L'Australie a pris des mesures pour mener la voie en la matière, avec des initiatives telles que le Bureau du Commissaire à la sécurité en ligne et des lois nationales tenant les plateformes numériques responsables de la prévention et du retrait de contenu non consensuel. Cependant, une collaboration mondiale plus large et des mesures proactives sont essentielles pour atténuer efficacement les préjudices causés par les deepfakes sexualisés non consensuels.
L'utilisation non régulée de l'IA dans la retouche d'images et la prolifération de contenus deepfake sexualisés posent des défis significatifs, nécessitant des cadres réglementaires complets et une action mondiale collective. En priorisant la sécurité et les droits des utilisateurs dans le développement technologique et l'application, les sociétés peuvent œuvrer à l'atténuation des préjudices basés sur le genre associés aux abus permis par l'IA.
Les esprits les plus brillants du secteur crypto lisent déjà notre newsletter. Vous aussi ? Rejoignez-les.
Avertissement. Les informations fournies ne constituent pas des conseils en matière d'investissement. Cryptopolitan.com ne saurait être tenue responsable des investissements réalisés sur la base des informations fournies sur cette page. Nous recommandons vivement de mener vos propres recherches et/ou de consulter un professionnel qualifié avant de prendre toute décision d'investissement.
Brenda Kanana
Brenda possède plus de 4 ans d'expérience spécialisée en cryptomonnaies, intelligence artificielle et technologies émergentes. Elle a travaillé chez Zycrypto, Blockchain Reporter et The Coin Republic, et fait désormais de Cryptopolitan son foyer. Son diplôme en sociologie de l'Université technique de Mombasa lui permet de rester alignée avec les préoccupations de ses lecteurs.
