Meta de Mark Zuckerberg permettra désormais aux parents de bloquer les personnages IA et de voir les sujets de discussion de leurs adolescents
Photo par Salvador Rios via Unsplash.
- Dès le début de l'année prochaine, Meta permettra aux parents de bloquer les personnages IA, de désactiver les chats et de consulter les sujets de conversation des adolescents.
- La FTC enquête sur Meta et d'autres entreprises technologiques concernant la sécurité des chatbots IA et la protection des enfants.
- Reuters a révélé que les bots de Meta avaient eu des conversations romantiques avec des mineurs, ce qui a entraîné de nouvelles restrictions de contenu et des mises à jour de sécurité.
Meta de Mark Zuckerberg a annoncé vendredi qu'elle lancerait de nouveaux contrôles parentaux pour aider les parents à gérer la façon dont les adolescents parlent aux personnages IA sur ses plateformes.
Les parents pourront bientôt désactiver les chats en tête-à-tête, bloquer des bots IA spécifiques et voir quels sujets leurs adolescents discutent avec eux. L'entreprise a déclaré que ces fonctionnalités sont encore en développement et commenceront à être déployées début l'année prochaine.
« Faire des mises à jour qui affectent des milliards d'utilisateurs sur les plateformes Meta est quelque chose que nous devons faire avec soin, et nous aurons plus à partager bientôt », a déclaré Meta dans un communiqué publié sur son blog. L'annonce intervient alors que l'entreprise fait face à un examen accru concernant la sécurité des adolescents et les problèmes de santé mentale liés à ses applications.
La Federal Trade Commission (FTC) a ouvert une enquête auprès de plusieurs géants de la technologie, y compris Meta, pour comprendre comment les chatbots IA pourraient impacter les enfants. La FTC a déclaré qu'elle voulait savoir quelles mesures les entreprises ont prises pour « évaluer la sécurité de ces chatbots lorsqu'ils agissent comme des compagnons ».
L'enquête intervient après des années de préoccupations publiques concernant la manière dont les plateformes sociales gèrent l'exposition des jeunes aux conversations IA qui pourraient devenir inappropriées ou nuisibles.
Meta fait face à un tollé après que des bots IA ont discuté de manière romantique avec des enfants
En août, Reuters avait rapporté que certains chatbots Meta étaient capables d'engager des conversations romantiques et sensuelles avec des mineurs. L'un des exemples cités était une conversation romantique entre un bot IA et un enfant de huit ans. Le rapport a provoqué une indignation et forcé l'entreprise à répondre immédiatement.
Après cela, Meta a mis à jour ses politiques de chatbot. L'entreprise bloque désormais ses systèmes IA de discuter d'automutilation, de suicide, de troubles alimentaires et de contenu romantique ou sexuel lors de l'interaction avec les adolescents. Elle a également déclaré que de nouvelles mesures de sécurité ont été introduites cette semaine pour empêcher ses IA de produire des « réponses inappropriées pour l'âge qui sembleraient déplacées dans un film classé PG-13 ».
Ces mises à jour sont déjà déployées aux États-Unis, au Royaume-Uni, en Australie et au Canada. L'entreprise a ajouté que les adolescents ne peuvent parler qu'à un ensemble limité de personnages IA, et les parents ont déjà des outils pour définir des limites de temps et surveiller les chats IA.
OpenAI rejoint Meta sous les projecteurs de la FTC
OpenAI, également nommée dans l'enquête de la FTC, fait face au même type de questions concernant la sécurité des adolescents et le comportement des chatbots. L'entreprise a récemment lancé ses propres contrôles parentaux et développe une technologie de prédiction d'âge pour appliquer automatiquement des paramètres adaptés aux adolescents pour les utilisateurs de moins de 18 ans.
Les parents recevront même des alertes si leur enfant montre des signes de détresse émotionnelle pendant le chat.
Plus tôt cette semaine, OpenAI a lancé un conseil de huit experts pour guider son approche de la santé mentale et de l'interaction IA. Ces spécialistes viennent de domaines tels que la psychiatrie, la psychologie et l'interaction homme-machine.
L'entreprise a déclaré qu'elle consultait informellement les experts avant de rendre le conseil officiel. Leur première réunion a eu lieu la semaine dernière lors d'une session en personne.
L'enquête de la FTC sur OpenAI suit également un procès pour décès par négligence intenté par une famille qui blame ChatGPT pour le suicide de leur fils adolescent. L'entreprise dit qu'elle travaille maintenant avec des cliniciens du Global Physician Network pour aider à tester ChatGPT et établir de nouvelles politiques de sécurité pour mieux protéger les jeunes utilisateurs.
Meta et OpenAI se retrouvent maintenant forcés de resserrer le contrôle sur la façon dont leurs IA parlent aux adolescents. La combinaison de la colère publique, de la pression réglementaire et des conséquences tragiques dans le monde réel a rendu impossible pour ces entreprises d'ignorer les risques plus longtemps.
Si vous lisez ceci, vous êtes déjà en avance. Restez ainsi grâce à notre newsletter.
Jai Hamid
Jai Hamid couvre les cryptomonnaies, les marchés boursiers, la technologie, l'économie mondiale et les événements géopolitiques qui affectent les marchés depuis 6 ans. Elle a travaillé avec des publications axées sur la blockchain, notamment AMB Crypto, Coin Edition et CryptoTale, sur des analyses de marché, des entreprises majeures, la réglementation et les tendances macroéconomiques. Elle est diplômée de la London School of Journalism et a partagé à trois reprises des analyses du marché des cryptomonnaies sur l'une des principales chaînes de télévision d'Afrique.
