La nouvelle fonctionnalité d'IA de Microsoft, Recall, soulève des inquiétudes quant à la protection de la vie privée

La nouvelle fonctionnalité « Recall » de Microsoft pour Windows, basée sur l'intelligence artificielle et qui enregistre tout ce qui s'affiche à l'écran, suscite de vifs débats sur le respect de la vie privée. Contrairement aux recherches par mots-clés classiques, Recall capture régulièrement des captures d'écran et les stocke localement sur l'appareil. 

À lire également : Microsoft intègre l’IA Copilot dans les jeux Xbox et PC

Les captures d'écran obtenues sont ensuite analysées à l'aide de l'intelligence artificielle afin de rendre le contenu consultable et récupérable sur commande.  

Les défenseurs de la vie privée tirent la sonnette d'alarme face aux risques « cauchemardesques »

Jen Golbeck, professeure d'intelligence artificielle à l'université du Maryland, dit inquiète des conséquences si Recall tombait entre de mauvaises mains.

« Des données peuvent rester sur votre appareil, mais cela ne signifie pas que les gens ne peuvent pas y accéder. Vous n’aurez aucune possibilité de vous protéger, même si vous utilisez le mode navigation privée ou si vous effacez votre historique, car l’outil a accès à tout ce qui a été affiché sur votre écran. »

Jen Golbeck

Golbeck cite des cas où cette fonctionnalité peut présenter certains risques pour les utilisateurs, notamment les journalistes travaillant dans des conditions dangereuses ou les victimes de violences. Bien que Recall propose des options de personnalisation et de mise sur liste noire, ses détracteurs estiment qu'elle peut néanmoins menacer la vie privée des utilisateurs dans certains cas.

À lire également : L’UE pourrait infliger une amende de plusieurs milliards de dollars à Microsoft concernant des informations sur l’IA

L'autorité de surveillance britannique ouvre une enquête officielle sur les pratiques en matière de protection de la vie privée

Le Bureau du commissaire à l'information du Royaume-Uni (ICO) a récemment ouvert une enquête contre Recall afin de déterminer si l'entreprise respecte les normes de protection des utilisateurs. La perspective d'un enregistrement constant du comportement des consommateurs suscite des inquiétudes, et un porte-parole de l'ICO a déclaré que les entreprises doivent « évaluer et atténuer rigoureusement les risques pour les droits et libertés des personnes ».

Dans une interview accordée au Wall Street Journal, Satya Nadella, PDG de Microsoft, a cherché à rassurer les utilisateurs en affirmant que Recall fonctionne uniquement en local sur l'ordinateur de l'utilisateur et qu'aucune capture d'écran n'est envoyée à Microsoft. Certains experts, comme Geoff Blaber de CCS Insight, estiment que les problèmes de confidentialité sont exagérés et que les utilisateurs maîtrisent mieux leurs données grâce aux mesures de sécurité intégrées à l'appareil, tandis que d'autres restent sceptiques.

À lire également : Le nouveau contrôleur d’accessibilité de Microsoft suscite une vive polémique sur son prix

Dans son annonce concernant Recall, Microsoft a souligné que la fonctionnalité fonctionne localement, le traitement par IA étant effectué sur l'appareil pour renforcer la sécurité, et qu'elle ne capture aucune image de navigation privée. Lors du lancement de la fonctionnalité lundi, Microsoft a déclaré sur son blog : « Recall exploite votre index sémantique personnel, construit et stocké intégralement sur votre appareil. »

Le débat s'intensifie concernant le risque d'exploitation malveillante

Michela Menting, directrice de recherche principale chez ABI Research, a déclaré que cette fonctionnalité constituait un « pas en arrière » pour la protection de la vie privée.

« L’argument selon lequel les pirates informatiques ont besoin d’un accès physique pour pouvoir manipuler Recall est pour le moins court-termiste, car il existe de nombreuses façons très ingénieuses dont les acteurs malveillants pourraient exploiter un outil aussi précieux. »

Comme l'a précédemment rapporté Cryptopolitan, la société d'IA OpenAI, soutenue par Microsoft, a essuyé des critiques après avoir dévoilé une voix pour sa nouvelle version de ChatGPT remarquablement similaire à celle de l'actrice hollywoodienne Scarlett Johansson.

Cryptopolitan par Brenda Kanana