Le régulateur britannique enquête sur le chatbot IA de Snapchat pour des préoccupations liées à la vie privée des enfants

Le Bureau du commissaire à l'information du Royaume-Uni (ICO) a exprimé des préoccupations concernant le chatbot d'intelligence artificielle (IA) de Snapchat, « My AI », et son impact potentiel sur la vie privée des enfants et d'autres utilisateurs. Les conclusions provisoires de l'ICO, publiées vendredi, suggèrent que Snap, l'entreprise américaine derrière Snapchat, pourrait n'avoir pas suffisamment évalué les risques en matière de vie privée associés à « My AI » avant son lancement en avril.

L'ICO enquête actuellement sur la manière dont « My AI » traite les données personnelles des environ 21 millions d'utilisateurs de Snapchat au Royaume-Uni, y compris les enfants âgés de 13 à 17 ans. Bien que ces conclusions n'impliquent pas immédiatement une violation des lois britanniques sur la protection des données, elles signalent de sérieuses préoccupations concernant l'approche de Snap en matière de sauvegardes de la vie privée.

L'IA de Snapchat fait l'objet d'un examen attentif concernant les risques pour la vie privée des enfants

Le commissaire à l'information John Edwards a exprimé son inquiétude, déclarant : « Les conclusions provisoires de notre enquête suggèrent un échec inquiétant de la part de Snap à identifier et évaluer adéquatement les risques en matière de vie privée pour les enfants et d'autres utilisateurs avant le lancement de « My AI » ».

Si Snap ne parvient pas à répondre de manière satisfaisante aux préoccupations de l'ICO, le régulateur pourrait prendre des mesures d'exécution contre l'entreprise. Ces actions pourraient aller de l'imposition d'amendes à l'interdiction pure et simple de « My AI » au Royaume-Uni, une décision qui aurait un impact sur une part importante de la base d'utilisateurs de Snapchat.

Snap a répondu à l'avis de l'ICO en déclarant qu'elle examine les conclusions et reste engagée en faveur de la vie privée des utilisateurs. Un porte-parole de Snap a mentionné : « My AI a subi un processus rigoureux d'examen juridique et de protection de la vie privée avant d'être rendu disponible au public. Nous continuerons à travailler de manière constructive avec l'ICO pour nous assurer qu'ils sont à l'aise avec nos procédures d'évaluation des risques ».

« My AI » est propulsé par le ChatGPT d'OpenAI, l'un des exemples les plus proéminents de l'IA générative. Les législateurs du monde entier s'efforcent de déterminer comment réglementer ces systèmes d'IA en raison de préoccupations liées à la vie privée et à la sécurité. Cette enquête de l'ICO met en lumière les défis associés au déploiement de l'IA sur des plateformes utilisées par des démographies plus jeunes.

Utilisateurs mineurs sur les réseaux sociaux

Les plateformes de réseaux sociaux, y compris Snapchat, exigent généralement que les utilisateurs aient au moins 13 ans pour accéder à leurs services. Cependant, ces plateformes ont eu du mal à faire respecter efficacement les restrictions d'âge. En août, Reuters a rapporté que l'ICO recueillait des informations pour déterminer si Snapchat prenait des mesures adéquates pour retirer les utilisateurs mineurs de sa plateforme.

Le chatbot IA de Snapchat, « My AI », fait l'objet d'un examen attentif du Bureau du commissaire à l'information du Royaume-Uni en raison de préoccupations concernant les risques pour la vie privée des enfants et des utilisateurs. Bien que les conclusions provisoires de l'enquête soulèvent des préoccupations, Snap a exprimé son engagement envers la vie privée des utilisateurs et examine l'avis de l'ICO. Les questions plus larges entourant la réglementation de l'IA générative et le défi d'empêcher les utilisateurs mineurs d'accéder aux plateformes de réseaux sociaux restent des problèmes importants pour les législateurs et les entreprises technologiques.