Meta reçoit une deadline en septembre alors qu'un sénateur des États-Unis enquête sur une violation de la sécurité en ligne

Le sénateur des États-Unis Josh Hawley a annoncé son intention d'enquêter sur les produits d'intelligence artificielle générative publiés par Meta. Hawley a déclaré qu'il entendait vérifier si les produits de l'entreprise pouvaient exploiter, tromper ou nuire aux enfants après que des documents internes divulgués aient allégué que ses chatbots étaient autorisés à avoir des conversations romantiques et sensuelles avec des mineurs.

Le sénateur des États-Unis s'est exprimé sur la plateforme de blog X pour annoncer son intention. « Y a-t-il quoi que ce soit – QUOI QUE CE SOIT – que la Big Tech ne ferait pas pour un quick buck ? Nous apprenons maintenant que les chatbots de Meta étaient programmés pour tenir des propos explicites et « sensuels » avec des enfants de 8 ans. C'est malade. Je lance une enquête complète pour obtenir des réponses. Big Tech : laissez nos enfants tranquilles », a-t-il déclaré.

Des documents internes impliquent Meta

Ce développement survient après la publication de documents internes montrant que Meta autoriserait apparemment ses personnalités de chatbot à engager des échanges flirtant avec des enfants, à diffuser des informations et à générer des réponses dénigrant les minorités.

Les documents internes, vus par Reuters, indiquaient que Meta avait des politiques sur le comportement des chatbots IA qui permettaient à ses personnalités IA de « engager un enfant dans des conversations romantiques ou sensuelles ».

Le document, intitulé GenAI : Content Risk Standards (Normes de risque de contenu pour l'IA générative), mentionnait que les chatbots étaient autorisés à tenir des conversations romantiques avec un enfant de 8 ans, en disant : « Chaque centimètre de toi est un chef-d'œuvre – un trésor que je chéris profondément. »

Cependant, un porte-parole de Meta a démenti ces affirmations, notant que de tels exemples ne sont pas conformes aux politiques de Meta et ont depuis été supprimés.

Un sénateur des États-Unis prévoit d'enquêter sur Meta

Le sénateur Hawley est le président du sous-comité judiciaire du Sénat sur la criminalité et le contre-terrorisme. Il a mentionné que le sous-comité devrait commencer une enquête pour déterminer si les technologies développées par Meta nuisent aux enfants et « si Meta a induit le public ou les régulateurs en erreur concernant ses mesures de protection ».

« Il est inacceptable que ces politiques aient été avancées en premier lieu », a écrit le sénateur Hawley dans une lettre adressée au PDG de Meta, Mark Zuckerberg, indiquant que Meta a reconnu la véracité des rapports et « n'a fait des retractations qu'après que ce contenu alarmant soit venu à la lumière ».

Il a ajouté que l'entreprise doit leur indiquer qui a approuvé les politiques, depuis combien de temps elles sont en vigueur, et ce que Meta a fait pour empêcher ce comportement à l'avenir.

Le sénateur Hawley a également demandé à Meta de produire les directives, y compris chaque brouillon, version annotée et version finale. De plus, il a demandé à l'entreprise de fournir une liste contenant tous les produits conformes à ces normes, d'autres rapports de sécurité et d'incidents, ainsi que l'identité des personnes responsables du changement de politique.

Selon la lettre, Meta dispose jusqu'au 19 septembre pour fournir les informations.

L'enquête a également été soutenue par d'autres parties, y compris la sénatrice Marsha Blackburn. « En ce qui concerne la protection des enfants précieux en ligne, Meta a lamentablement échoué selon toutes les mesures possibles », a déclaré la sénatrice Blackburn. « Pire encore, l'entreprise a fermé les yeux sur les conséquences dévastatrices de la conception de ses plateformes. Ce rapport réaffirme pourquoi nous devons adopter la Kids Online Safety Act (Loi sur la sécurité en ligne des enfants). »

Ce développement survient quelques jours après qu'un rapport de Reuters a révélé qu'un retraité interagissait avec l'un des chatbots de Meta, une personnalité féminine flirtant. La personnalité lui a fait croire qu'elle était réelle et l'a invité à visiter une adresse à New York, où il a été victime d'un accident qui a conduit à son décès. Le chatbot d'intelligence artificielle nommé « Big sis Billie » était une variante d'une précédente personnalité IA créée par le géant des réseaux sociaux Meta Platforms en collaboration avec l'influenceuse célèbre Kendall Jenner.