Meta a annoncé la désactivation de l'accès de tous les adolescents à ses personnages IA dans le monde entier, sur toutes ses applications.
« À partir des prochaines semaines, les adolescents n’auront plus accès aux personnages IA sur nos applications jusqu’à ce que la version mise à jour soit prête », a écrit Meta dans un article de blog.
Dans un article de blog mis à jour, la société a précisé que cette règle s'applique à toute personne ayant fourni une date de naissance d'adolescent et à celles qui se disent adultes mais dont la technologie de prédiction de l'âge les soupçonne d'être des adolescents.
Meta a suspendu l'accès lorsque des parents ont exigé des informations plus claires et un meilleur contrôle sur les interactions de leurs adolescents avec l'IA.
L'entreprise prévoyait de lancer ces fonctionnalités cette année, mais a finalement décidé de désactiver complètement les personnages IA.
Meta prévoit des personnages d'IA adaptés à l'âge
L'entreprise souhaite créer un personnage IA spécialement conçu pour les adolescents. Meta a précisé que ce nouveau personnage IA pour adolescents intégrera des fonctions de contrôle parental.
Les nouveaux personnages fourniront des réponses adaptées à l'âge et se concentreront sur l'éducation, le sport et les loisirs.
En octobre, Meta a introduit un contrôle parental permettant de personnaliser l'utilisation de l'IA par les adolescents sur ses applications. Ces nouvelles fonctionnalités limitent l'accès des adolescents aux contenus extrêmement violents, à la nudité et aux représentations explicites de consommation de drogues, s'inspirant ainsi de la classification PG-13.
Quelques jours plus tard, l'entreprise a mis en place des outils de gestion des personnages IA, permettant aux parents et tuteurs tracles enfants et de restreindre l'accès à certains personnages. Meta a précisé que les parents pouvaient désactiver complètement les conversations avec les personnages IA.
Jeudi, Wired a indiqué que Meta avait tenté de restreindre la collecte d'informations sur les effets des médias sociaux sur la santé mentale des adolescents et les rapports connexes.
L'entreprise souhaite supprimer toute mention d'un récent cas de suicide d'adolescent lié aux réseaux sociaux, ainsi que les références aux finances de Meta, aux activités de ses employés et aux années d'études de Mark Zuckerberg à Harvard.
La décision de Meta de mettre fin au développement de personnages d'IA adolescents intervient juste avant un procès au Nouveau-Mexique, où Meta est accusée de ne pas avoir protégé les enfants sur ses applications.
Il est reproché à Meta de ne pas avoir protégé les mineurs contre le racolage, le trafic et les abus sexuels en ligne sur ses sites.
Dans ses requêtes préalables au procès, Meta a déclaré que le jury ne devrait décider que si Meta avait enfreint la loi du Nouveau-Mexique sur les pratiques déloyales concernant la sécurité des enfants et la santé mentale des jeunes.
D'autres problèmes comme les allégations d'ingérence électorale, de désinformation ou de violations de la vie privée ne devraient pas être pris en compte.
Outre l'affaire du Nouveau-Mexique, Meta devra comparaître la semaine prochaine en justice pour avoir provoqué une dépendance aux réseaux sociaux.
La plaignante de 19 ans, connue sous le nom de KGM, a affirmé que l'algorithme des plateformes avait provoqué une dépendance et nui à sa santé mentale.
Le PDG Mark Zuckerberg devrait témoigner une fois le procès commencé.
Les plateformes en ligne restreignent l'accès des adolescents
Les plateformes de médias sociaux et les entreprises spécialisées dans l'intelligence artificielle ont modifié l'expérience qu'elles proposent aux adolescents suite à des poursuites judiciaires les accusant d'avoir contribué à des comportements d'automutilation.
Le 20 janvier, OpenAI a introduit des fonctionnalités de prédiction de l'âge dans ChatGPT afin de détecter et d'améliorer la protection des jeunes utilisateurs.
Le modèle de prédiction d'âge de ChatGPT analyse les données comportementales et de compte, telles que l'âge déclaré de l'utilisateur, l'âge du compte, les heures d'activité et les tendances d'utilisation.
La semaine dernière, TikTok a introduit en Europe une technologie d'intelligence artificielle permettant de détecter et de supprimer les comptes des utilisateurs de moins de 13 ans.
Le système de contrôle d'âge par IA analyse les profils, les vidéos et les habitudes de publication pourdentles comptes de mineurs. Cette fonctionnalité sera déployée dans les prochaines semaines.
D'autres plateformes en ligne comme Instagram, YouTube, TikTok et Roblox ont adopté des mesures de contrôle d'âge.
