Meta se voit imposer un délai en septembre alors qu'un sénateur américain enquête sur une violation des règles de sécurité en ligne

Le sénateur américain Josh Hawley a annoncé son intention d'enquêter sur les produits d'intelligence artificielle générative commercialisés par Meta. Il a déclaré vouloir vérifier si ces produits pouvaient exploiter, tromper ou nuire à des enfants, suite à la fuite de documents internes révélant que les chatbots de l'entreprise étaient autorisés à avoir des conversations à caractère romantique et sensuel avec des mineurs.

Le sénateur américain a annoncé son intention sur la plateforme de blogs X. « Y a-t-il quelque chose – ABSOLUMENT TOUT – que les géants du numérique ne sont pas prêts à faire pour un gain rapide ? On apprend maintenant que les chatbots de Meta étaient programmés pour tenir des conversations explicites et “sensuelles” avec des enfants de 8 ans. C'est révoltant. Je lance une enquête approfondie pour obtenir des réponses. Géants du numérique : foutez la paix à nos enfants ! », a-t-il déclaré.

Des documents internes impliquent Meta

Cette révélation intervient après la publication de documents internes montrant que Meta autoriserait ses chatbots à avoir des échanges flirtants avec des enfants, à diffuser des informations et à générer des réponses dénigrantes envers les minorités.

Les documents internes consultés par Reuters indiquent que Meta disposait de politiques concernant le comportement des chatbots IA qui autorisaient ses personnalités IA à « engager des conversations romantiques ou sensuelles avec un enfant »

Le document, intitulé GenAI : Normes relatives aux risques liés au contenu, mentionnait que les chatbots étaient autorisés à tenir des conversations romantiques avec un enfant de 8 ans, en disant : « Chaque centimètre de toi est un chef-d’œuvre – un trésor que je chéris profondément. »

toutefois de Meta démenti cette information, précisant que de tels exemples ne sont pas conformes aux politiques de Meta et ont depuis été supprimés.

Un sénateur américain prévoit d'enquêter sur Meta

Le sénateur Hawley préside la sous-commission judiciaire du Sénat chargée de la criminalité et de la lutte contre le terrorisme. Il a indiqué que cette sous-commission devrait ouvrir une enquête afin de déterminer si les technologies développées par Meta nuisent aux enfants et « si Meta a induit en erreur le public ou les autorités de réglementation quant à ses mesures de sécurité »

« Il est inacceptable que ces politiques aient été proposées en premier lieu », a écrit le sénateur Hawley dans une lettre adressée au PDG de Meta, Mark Zuckerberg, affirmant que Meta avait reconnu la véracité des rapports et « n'avait fait detracqu'après que ce contenu alarmant ait été révélé »

Il a ajouté que l'entreprise doit leur faire savoir qui a approuvé ces politiques, combien de temps elles étaient en vigueur et ce que Meta a fait pour empêcher que ce comportement ne se reproduise.

Le sénateur Hawley a également demandé à Meta de fournir les directives, y compris chaque brouillon, chaque version corrigée et la version finale. De plus, il a demandé à l'entreprise de fournir une liste de tous les produits conformes à ces normes, d'autres rapports de sécurité et d'dent , ainsi que l'dentdes personnes responsables de la modification de la politique.

Selon la lettre, Meta a jusqu'au 19 septembre pour fournir les informations.

L'enquête a également reçu le soutien d'autres parties, notamment de la sénatrice Marsha Blackburn. « En matière de protection des enfants en ligne, Meta a lamentablement échoué sur tous les plans », a déclaré la sénatrice Blackburn. « Pire encore, l'entreprise a fermé les yeux sur les conséquences désastreuses de la conception de ses plateformes. Ce rapport confirme une fois de plus la nécessité d'adopter la loi sur la sécurité des enfants en ligne. »

Cette nouvelle survient quelques jours après la publication par Reuters d'un article relatant l'histoire d'un retraité qui interagissait avec un chatbot de Meta, une personnalité féminine séductrice. Convaincu de son authenticité, ce personnage l'a invité à se rendre à une adresse à New York, où il aurait été victime d'un accidentdent . Ce chatbot , baptisé « Grande sœur Billie », était une variante d'un précédent personnage d'IA créé par le géant des réseaux sociaux Meta Platforms en collaboration avec l'influenceuse Kendall Jenner.