Apple supprime des applications de l'App Store pour promotion d'images nues non consensuelles

Le mois dernier, le géant de la technologie Apple Inc. a fait un mouvement audacieux et a supprimé trois applications de son App Store. Ces applications exploitaient même des outils d'apprentissage automatique disponibles dans l'IA et tentaient de créer des images non consensuelles sans le consentement d'une personne. Cette décision fait suite à des préoccupations selon lesquelles les applications utilisaient de fausses publicités sur des plateformes comme Instagram et des sites de pornographie.

Cas trompeurs en publicité 

Ceux qui cliquent sur cette publicité sont envoyés vers l'Apple App Store, et la même application est décrite comme un « générateur d'art » mais sans aucune référence au fait qu'elle peut générer des nus. Il s'agit d'une faille de longue date dans les magasins d'applications mobiles, identifiée pour la première fois en 2022.

Grâce à des algorithmes basés sur l'IA, les applications accusées de ce prétendu acte affirmaient déshabiller les individus sur les photos, conduisant à une supposition incorrecte de nudité bien qu'elles n'aient pas la permission ou la connaissance des sujets. De tels actes non seulement violent la vie privée, mais sont aussi des sources potentielles d'exploitation, de harcèlement et de chantage. 

Un certain nombre de versions similaires de cette publicité avec diverses autres femmes générées par IA ont été affichées sur Facebook, Instagram, Facebook Messenger et le réseau publicitaire intégré à Meta entre le 10 avril et le 20 avril.

Après avoir été informée de ces applications arnaqueuses, Apple a en fait été la première à les supprimer de l'App Store. Bien qu'elles prétendent être innocentes, leurs véritables motivations ont été révélées par les applications forçant Apple à les supprimer et à respecter ses normes communautaires. Cela démontre clairement la déviation inébranlable d'Apple à créer un espace numérique sécurisé et neutre pour tous.

Défis continus et responsabilité

Même si les contre-mesures prises par Apple méritent le respect, cet incident, en fin de compte, suscite des doutes quant à la révision des applications et au suivi des méthodes publicitaires. Le fait que ces applications aient été invisibles dans l'App Store pendant longtemps souligne uniquement la nécessité d'une plus grande prudence et de mesures actives pour détecter et éliminer les applications frauduleuses.

De plus, les développeurs ont appliqué des méthodes sournoises de promotion de leurs fonctionnalités illégales sur des sites pour adultes, ce qui a assuré leur absence de détection par Apple et Google. Ces cas illustrent les problèmes auxquels les entreprises technologiques font face pour policer leurs plateformes et faire respecter les directives communautaires.

Avec la divulgation à venir par Apple de certains projets liés à l'IA lors de la Conférence mondiale des développeurs (WWDC) 2023, il sera plutôt intéressant de voir la démarche initiée par l'entreprise concernant ces applications. Une partie importante de la mise en œuvre responsable de la technologie par Apple est de maintenir une bonne image de comportement éthique et de gouvernance technologique solide, ce qui est critique compte tenu de l'utilisation croissante de l'IA par Apple dans ses produits.

Supprimer ces applications serait un exemple de problème éthique dans le développement et l'utilisation de l'IA. La deuxième préoccupation liée au développement des capacités de l'IA est la vie privée des utilisateurs. De plus, les utilisateurs doivent être sollicités pour leur permission, et l'assurance de leur sécurité doit être donnée. En bloquant de telles applications, Apple souligne le comportement éthique au sein de sa communauté.