Apple retire des applications de l'App Store pour promotion d'images de nudité non consensuelles

Le mois dernier, le géant technologique Apple a pris une décision radicale en retirant trois applications de son App Store. Ces applications exploitaient des outils d'apprentissage automatique et tentaient de générer des images non consensuelles sans le consentement des utilisateurs. Cette décision fait suite à des inquiétudes concernant l'utilisation de publicités mensongères par ces applications sur des plateformes comme Instagram et des sites pornographiques.

Cas de publicité trompeuse 

Ceux qui cliquent sur cette publicité sont redirigés vers l'App Store d'Apple, où l'application est présentée comme un « générateur d'art », sans aucune mention de sa capacité à générer des nus. Il s'agit d'une faille connue des plateformes de téléchargement d'applications mobiles,dentpour la première fois en 2022.

Les applications incriminées, grâce à des algorithmes d'intelligence artificielle, prétendaient déshabiller les personnes sur les photos, laissant croire à tort à une nudité, alors même qu'elles n'avaient ni le consentement ni la connaissance des personnes concernées. De tels agissements constituent non seulement une atteinte à la vie privée, mais aussi une source potentielle d'exploitation, de harcèlement et de chantage. 

Plusieurs versions similaires de cette publicité, mettant en scène diverses femmes générées par IA, ont été diffusées sur Facebook, Instagram, Facebook Messenger et le réseau publicitaire intégré à l'application Meta entre le 10 et le 20 avril.

Après avoir été alertée de l'existence de ces applications frauduleuses, Apple a été la première à les retirer de l'App Store. Malgré leurs dénégations, leurs véritables intentions ont été révélées par les développeurs de ces applications, contraignant Apple à les supprimer et à respecter ses standards communautaires. Cela témoigne clairement de l'engagement indéfectible d'Apple à créer un espace numérique sécurisé et non sexiste pour tous.

Défis permanents et responsabilité

Bien que les contre-mesures prises par Apple soient louables, cetdentsoulève des interrogations quant à la validation des applications et au contrôle des méthodes publicitaires. Le fait que ces applications soient restées longtemps indétectées sur l'App Store souligne la nécessité d'une vigilance accrue et de mesures proactives pour identifier et supprimer les applications frauduleuses.

De plus, les développeurs ont eu recours à des méthodes sournoises pour promouvoir leurs fonctionnalités illégales sur des sites pour adultes, échappant ainsi à la détection d'Apple et de Google. Ces cas illustrent les difficultés rencontrées par les entreprises technologiques pour contrôler leurs plateformes et faire respecter les règles communautaires.

Avec la présentation prochaine par Apple de certains projets liés à l'IA lors de la Worldwide Developers Conference (WWDC) 2023, il sera particulièrement intéressant d'observer la stratégie adoptée par l'entreprise concernant ces applications. Un aspect important de la démarche responsable d'Apple en matière de technologies consiste à préserver une image positive en matière d'éthique et de gouvernance technologique, ce qui est crucial compte tenu de l'utilisation croissante de l'IA dans ses produits.

Supprimer ces applications poserait un problème éthique lié au développement et à l'utilisation de l'IA. Le respect de la vie privée des utilisateurs est une autre préoccupation majeure. Il est donc indispensable de demander leur consentement et de leur garantir la sécurité des données. En bloquant ces applications, Apple encourage les pratiques éthiques au sein de sa communauté.