La députée australienne Georgie Purcell a récemment exprimé son inquiétude concernant une image retouchée numériquement qui déformait son corps et lui retirait des parties de ses vêtements sans son consentement. Cetdent met en lumière les conséquences potentiellement sexistes et discriminatoires des technologies d'intelligence artificielle non contrôlées.
Bien que souvent considérés comme simples d'utilisation au quotidien, les outils d'intelligence artificielle peuvent, involontairement, perpétuer les préjugés sociétaux. Lorsqu'ils sont utilisés pour retoucher des photographies, ces outils peuvent accentuer certains attributs valorisés par la société, comme la jeunesse et la sexualisation, particulièrement présentes dans les images de femmes.
La prolifération de contenus deepfake à caractère sexuel, ciblant principalement les femmes, est une source de vive inquiétude. Selon les rapports, 90 à 95 % des vidéos deepfake relèvent de la pornographie non consensuelle, et environ 90 % d'entre elles mettent en scène des femmes. Des cas de création et de partage non consensuels d'images deepfake à caractère sexuel ont été recensés dans le monde entier, touchant des personnes de tous horizons, notamment des jeunes femmes et des célébrités comme Taylor Swift.
La nécessité d'une action mondiale
Bien que certaines régions aient adopté des mesures législatives pour lutter contre le partage non consensuel de deepfakes à caractère sexuel, les lois encadrant leur création restent incohérentes, notamment aux États-Unis. L'absence de réglementation internationale cohérente souligne la nécessité d'une action collective mondiale pour combattre efficacement ce problème.
Les efforts déployés pour détecter les contenus générés par l'IA sont mis à l'épreuve par les progrès technologiques et la prolifération d'applications facilitant la création de contenus à caractère sexuel. Toutefois, imputer la responsabilité uniquement à la technologie revient à négliger celle des développeurs et des plateformes numériques, qui doivent privilégier la sécurité et les droits des utilisateurs.
L'Australie a pris des mesures pour montrer l'exemple en la matière, notamment grâce à des initiatives telles que le Bureau du commissaire à la sécurité en ligne et des lois nationales qui responsabilisent les plateformes numériques quant à la prévention et à la suppression des contenus non consensuels. Toutefois, une collaboration internationale plus large et des mesures proactives sont indispensables pour atténuer efficacement les méfaits des deepfakes à caractère sexuel non consensuels.
L’utilisation incontrôlée de l’IA dans la retouche d’images et la prolifération de contenus truqués à caractère sexuel posent des défis considérables, nécessitant des cadres réglementaires complets et une action collective mondiale. En donnant la priorité à la sécurité et aux droits des utilisateurs dans le développement et l’application des technologies, les sociétés peuvent œuvrer à atténuer les préjudices sexistes liés aux abus permis par l’IA.
