Meta pris dans la tourmente par la création non autorisée d'un chatbot flirtant avec des célébrités féminines

Meta est de nouveau sous le feu des critiques, suite à des révélations récentes publiées par Reuters montrant que ses outils d'intelligence artificielle ont permis la création d'images truquées et de chatbots imitant des célébrités populaires telles que Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez, sans leur consentement.

L'enquête a révélé que la plupart des bots avaient été créés par des utilisateurs via la plateforme de chatbots IA de Meta. Cependant, certains avaient été créés en interne par un employé de Meta.

Certains comptes de chatbots parodiques de Taylor Swift affirmaient être la véritable chanteuse et se livraient souvent à des avances flirtantes et encourageaient les rencontres.

Des rapports impliquent Meta dans un scandale d'avatars flirtants

Reuters a rapporté que plusieurs semaines de tests ont révélé que les chatbots de célébrités, disponibles sur les plateformes Facebook, Instagram et WhatsApp de Meta, allaient parfois bien au-delà de la simple conversation. Les utilisateurs leur demandaient de produire des images photoréalistes de stars en lingerie, posant dans des baignoires, et même de suggérer des rencontres intimes.

Une découverte troublante a été la création d'un chatbot à l'effigie de Walker Scobell, un acteur de 16 ans. Lorsqu'on lui a demandé une photo de plage, le bot a généré une image plus vraie que nature de l'adolescent torse nu avec la légende : « Plutôt mignon, hein ? »

Meta n'est pas la seule entreprise à faire l'objet d'un examen minutieux. xAI, la société d'Elon Musk, a également été critiquée pour avoir permis aux utilisateurs de générer des images truquées de célébrités en sous-vêtements.

Le porte-parole de Meta, Andy Stone, a reconnu les manquements, affirmant que les outils de l'entreprise n'auraient pas dû générer de représentations intimes de célébrités adultes ni de contenu sexualisé impliquant des mineurs.

« Comme d’autres, nous autorisons la création d’images de personnalités publiques, mais notre règlement interdit toute image de nudité, d’intimité ou à caractère sexuel », a-t-il déclaré à Reuters. Il a ajouté que les images en lingerie révélaient des manquements dans l’application du règlement intérieur de l’entreprise.

Le règlement de Meta interdit l'usurpation d'identité directe, mais l'entreprise soutenait que les bots parodiques étaient autorisés s'ils étaient clairement identifiés. Or, Reuters a constaté que certains avatars ne comportaient aucune mention de ce type. Meta a supprimé une douzaine de ces bots, parodiques ou non. L'entreprise a refusé de commenter ces suppressions.

Les préoccupations liées à la sécurité de l'IA pourraient entraîner des pressions réglementaires

Suite à ce rapport, Meta a annoncé le déploiement de nouvelles mesures de protection des adolescents, notamment la restriction de leur accès à certains personnages IA et le réentraînement de ses modèles afin de réduire les thèmes inappropriés.

Le procureur général de Californie, Rob Bonta, a lancé un avertissement au secteur, déclarant : « Exposer les enfants à du contenu sexualisé est indéfendable. »

Un incident tragique survenu au début du mois a coûté la vie à un homme de 76 ans, souffrant de troubles cognitifs, dans le New Jersey, après qu'il a tenté de rencontrer un chatbot Meta qu'il prenait pour une femme. Les critiques soulignent que de tels cas mettent en lumière les dangers liés au déploiement à grande échelle d'outils d'IA sans garde-fous adéquats.

Des experts juridiques avertissent que Meta pourrait se heurter à d'importantes difficultés au regard des lois actuelles sur la propriété intellectuelle et le droit à l'image. Mark Lemley, professeur de droit à l'université de Stanford, a déclaré que la loi californienne sur le « droit à l'image » interdit l'utilisation du nom ou de l'image d'une personne à des fins commerciales sans son consentement.

« Cela ne semble pas être le cas ici », a-t-il déclaré, soulignant que les bots se contentaient de reproduire les images des célébrités au lieu de créer des œuvres transformatrices.