Les applications « Nudify » propulsées par l'IA gagnent en popularité, soulevant des inquiétudes

Une tendance troublante émerge : selon des recherches récentes, les applications et sites web utilisant l'intelligence artificielle (IA) pour déshabiller les femmes sur des photos connaissent un succès croissant. Ces services, souvent appelés « nudify », soulèvent de graves inquiétudes concernant la vie privée, l'éthique et le consentement.

Popularité en forte hausse

Rien qu'en septembre, environ 24 millions de personnes ont visité ces sites de déshabillage virtuel, selon Graphika, une société d'analyse des réseaux sociaux. De nombreux services sont promus via les principaux réseaux sociaux, et le nombre de liens publicitaires pour des applications de déshabillage sur des plateformes comme X et Reddit a augmenté de plus de 2 400 % depuis le début de l'année, selon des chercheurs. La fonction principale de ces applications consiste à utiliser l'intelligence artificielle pour manipuler des images afin de créer une version simulée nue du sujet. Il est important de noter que la majorité de ces services ciblent exclusivement les femmes.

Dilemmes éthiques et juridiques

Ces applications alimentées par l'IA s'inscrivent dans une tendance inquiétante liée à la pornographie non consensuelle facilitée par les avancées technologiques de l'IA, entraînant la prolifération de la pornographie deepfake. La pornographie deepfake implique généralement la création de médias fabriqués, tels que des vidéos ou des images, souvent sans la connaissance ou le consentement de la personne concernée. Ces images sont fréquemment extraites de plateformes de réseaux sociaux et diffusées sans le contrôle ni la conscience de la personne, soulevant d'importants défis éthiques et juridiques.

Harcèlement en ligne et violations de la vie privée

Les inquiétudes se sont intensifiées car certaines de ces applications et services promeuvent des comportements non consensuels et du harcèlement. Par exemple, une image publiée sur X pour promouvoir une application de déshabillage suggérait que les clients pouvaient générer des images nues et les envoyer aux personnes virtuellement déshabillées, incitant ainsi au harcèlement et aux abus. De plus, certaines de ces applications ont payé pour du contenu sponsorisé sur la plateforme YouTube de Google, apparaissant en bonne place dans les résultats de recherche pour des termes comme « nudifier ». Cependant, Google a déclaré qu'il n'autorise pas les publicités contenant du contenu sexuellement explicite et supprime activement les publicités qui violent cette règle. À ce jour, ni X ni Reddit n'ont répondu aux demandes de commentaire.

Prolifération des deepfakes

La pornographie non consensuelle impliquant des personnalités publiques est un problème ancien sur Internet. Toutefois, les experts en protection de la vie privée sont de plus en plus alarmés par le fait que les avancées technologiques de l'intelligence artificielle ont rendu les logiciels de deepfake plus accessibles et efficaces. Ces outils sont désormais utilisés non seulement par des acteurs malveillants, mais aussi par des particuliers, y compris des lycéens et des étudiants, pour cibler des victimes inconscientes.

Défis liés à la lutte contre les deepfakes

La lutte contre la pornographie deepfake pose des défis majeurs. Bien qu'il existe des lois interdisant la création de ce type de contenu impliquant des mineurs, il n'existe actuellement aucune loi fédérale aux États-Unis interdisant spécifiquement la création de pornographie deepfake impliquant des adultes. Les forces de l'ordre rencontrent souvent des difficultés à enquêter sur ces affaires, et les victimes peuvent avoir du mal à obtenir les fonds nécessaires pour engager des poursuites.

Dans un développement notable, un psychiatre pour enfants en Caroline du Nord a été condamné à 40 ans de prison en novembre pour avoir utilisé des applications de déshabillage sur des photos de patients. Il s'agit de la première poursuite de ce type au titre des lois interdisant la génération de matériel d'abus sexuel sur enfants sous forme de deepfake.

Réponses des plateformes

Face aux préoccupations croissantes, les plateformes de médias sociaux ont pris des mesures. TikTok, par exemple, a bloqué le mot-clé « undress », couramment associé à ces services. Lorsque les utilisateurs recherchent ce terme, ils reçoivent un avertissement indiquant qu'il peut être lié à des comportements ou contenus violant les directives de la plateforme. De même, Meta Platforms Inc., la société mère de Facebook, a également commencé à bloquer les mots-clés associés à la recherche d'applications de déshabillage. Cependant, les deux entreprises ont refusé de fournir davantage de commentaires sur la question.

Considérations juridiques et éthiques

L'essor des applications « nudify » propulsées par l'IA souligne la nécessité urgente de traiter les questions juridiques et éthiques entourant la pornographie deepfake et les contenus générés par IA sans consentement. Alors que la technologie continue d'évoluer, des réglementations et des garde-fous doivent être mis en place pour protéger les individus contre le harcèlement, les violations de la vie privée et l'utilisation abusive de l'IA à des fins nuisibles.

En conclusion, la prolifération d'applications alimentées par l'IA capables de générer des nus deepfakes non consensuels est une tendance préoccupante qui souligne l'urgence de traiter les questions éthiques, juridiques et de protection de la vie privée à l'ère numérique. À mesure que la technologie évolue, les législateurs et les entreprises technologiques doivent prendre des mesures proactives pour lutter contre l'utilisation malveillante de l'IA et protéger les individus contre les préjudices potentiels