IALe Bureau du commissaire à l'information du Royaume-Uni (ICO) s'inquiète du chatbot d'intelligence artificielle (IA) de Snapchat, « My AI », et de son impact potentiel sur la vie privée des enfants et des autres utilisateurs. Les conclusions provisoires de l'ICO, publiées vendredi, suggèrent que Snap, la société américaine à l'origine de Snapchat, n'aurait pas suffisamment évalué les risques pour la vie privée liés à « My AI » avant son lancement en avril.
L'ICO enquête actuellement sur la manière dont « My AI » traite les données personnelles des quelque 21 millions d'utilisateurs de Snapchat au Royaume-Uni, dont des enfants âgés de 13 à 17 ans. Bien que ces conclusions n'impliquent pas immédiatement une violation des lois britanniques sur la protection des données, elles soulèvent de sérieuses inquiétudes quant à l'approche de Snap en matière de protection de la vie privée.
L'intelligence artificielle de Snapchat fait l'objet d'un examen minutieux en raison des risques qu'elle représente pour la vie privée des enfants
Le commissaire à l'information, John Edwards, a exprimé son inquiétude, déclarant : « Les conclusions provisoires de notre enquête suggèrent un manquement préoccupant de la part de Snap àdentet à évaluer adéquatement les risques pour la vie privée des enfants et des autres utilisateurs avant de lancer « My AI »
Si Snap ne répond pas de manière satisfaisante aux préoccupations de l'ICO, le régulateur pourrait prendre des mesures coercitives à l'encontre de l'entreprise. Ces mesures pourraient aller d'amendes à l'interdiction pure et simple de « My AI » au Royaume-Uni, une décision qui impacterait une part importante des utilisateurs de Snapchat.
Snap a réagi à la notification de l'ICO en indiquant examiner les conclusions et réaffirmer son engagement envers la protection de la vie privée des utilisateurs. Un porte-parole de Snap a déclaré : « Mon IA a fait l'objet d'un examen juridique et de protection de la vie privée rigoureux avant d'être rendue publique. Nous continuerons de collaborer de manière constructive avec l'ICO afin de garantir sa confiance dans nos procédures d'évaluation des risques. »
« My AI » utilise ChatGPT d'OpenAI, l'un des exemples les plus marquants d'intelligence artificielle générative. Partout dans le monde, les décideurs politiques s'interrogent sur la manière de réglementer ces systèmes d'IA, notamment en raison des préoccupations liées à la protection de la vie privée et à la sécurité. Cette enquête de l'ICO met en lumière les difficultés engendrées par le déploiement de l'IA sur les plateformes utilisées par les jeunes.
Les plateformes de réseaux sociaux, dont Snapchat, exigent généralement que les utilisateurs soient âgés de 13 ans ou plus pour accéder à leurs services. Cependant, ces plateformes peinent à faire respecter efficacement les restrictions d'âge. En août, Reuters a rapporté que l'ICO (Information Commissioner's Office) recueillait des informations afin de déterminer si Snapchat prenait les mesures adéquates pour exclure les utilisateurs mineurs de sa plateforme.
Le chatbot IA de Snapchat, « My AI », fait l'objet d'un examen de la part du Bureau du commissaire à l'information du Royaume-Uni (ICO) en raison de préoccupations liées aux risques pour la vie privée des enfants et des utilisateurs. Bien que les conclusions provisoires de l'enquête soient préoccupantes, Snap a réaffirmé son engagement en matière de protection de la vie privée des utilisateurs et examine actuellement la notification de l'ICO. Les questions plus générales relatives à la réglementation de l'IA générative et à la difficulté d'empêcher les mineurs d'accéder aux plateformes de médias sociaux demeurent des enjeux majeurs pour les décideurs politiques et les entreprises technologiques.
