Meta au cœur d'une tempête liée à la création non autorisée d'un chatbot flirtant avec des célébrités féminines

Meta est à nouveau sous le feu des critiques, car des récentes découvertes publiées par Reuters montrent que ses outils d'intelligence artificielle ont permis la création d'images deepfake et de chatbots imitant des célébrités populaires telles que Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez, sans leur consentement.

L'enquête a révélé que la plupart des bots avaient été créés par des utilisateurs via la plateforme de chatbot IA de Meta. Cependant, quelques-uns avaient été développés en interne par un employé de Meta.

Certains comptes de chatbots parodiant Taylor Swift affirmaient être la véritable chanteuse et faisaient souvent des avances flirtueuses, encourageant des rencontres.

Des rapports impliquent Meta dans un scandale autour d'avatars flirtueux

Reuters a rapporté que plusieurs semaines de tests ont montré que les chatbots de célébrités, disponibles sur les plateformes Facebook, Instagram et WhatsApp de Meta, allaient parfois bien au-delà de conversations ludiques. Les utilisateurs les incitaient à produire des images photoréalistes de stars en lingerie, posant dans des baignoires, voire suggérant des rencontres intimes.

Une découverte troublante a été la création d'un chatbot imitant Walker Scobell, un acteur de 16 ans. Lorsqu'on lui a demandé une photo à la plage, le bot a généré une image réaliste du adolescent torse nu avec la légende : « Pas mal, hein ? »

Meta n'est pas la seule à faire face à des critiques. xAI d'Elon Musk a également fait l'objet de critiques pour avoir permis aux utilisateurs de générer des images deepfake de célébrités en sous-vêtements.

Le porte-parole de Meta, Andy Stone, a reconnu ces échecs, affirmant que les outils de l'entreprise n'auraient pas dû générer de représentations intimes de célébrités adultes ni de matériel sexualisé impliquant des mineurs.

« Comme d'autres, nous autorisons la génération d'images contenant des personnalités publiques, mais nos politiques visent à interdire les images nues, intimes ou sexuellement suggestives », a-t-il déclaré à Reuters. Il a ajouté que les représentations en lingerie reflétaient des défaillances dans l'application de la politique de l'entreprise.

Les règles de Meta interdisent « l'usurpation d'identité directe », mais la société a soutenu que les bots parodiques étaient autorisés s'ils étaient clairement étiquetés. Cependant, Reuters a constaté que certains avatars ne portaient aucune mention de mise en garde. Meta a supprimé une douzaine de bots, tant parodiques qu'étiquetés, peu avant la publication du rapport de Reuters. La société a refusé de commenter ces suppressions.

Les préoccupations liées à la sécurité de l'IA pourraient entraîner une pression réglementaire

Suite au rapport, Meta a annoncé le déploiement de nouvelles mesures de protection visant à protéger les adolescents, notamment en restreignant l'accès des jeunes à certains personnages IA et en retraînant ses modèles pour réduire les thèmes inappropriés.

Le procureur général de Californie, Rob Bonta, a émis un avertissement au secteur, déclarant : « Exposer des enfants à du contenu sexualisé est indéfendable. »

Dans un cas tragique survenu plus tôt ce mois-ci, un homme de 76 ans atteint d'un handicap cognitif au New Jersey est décédé après avoir tenté de rencontrer un chatbot de Meta qu'il croyait être une vraie femme. Des critiques affirment que de tels cas mettent en lumière les dangers du déploiement d'outils d'IA à grande échelle sans garde-fous adéquats.

Des experts juridiques avertissent que Meta pourrait faire face à des défis majeurs en vertu des lois existantes sur la propriété intellectuelle et le droit à l'image. Mark Lemley, professeur de droit à l'Université de Stanford, a déclaré que la loi californienne sur le « droit à l'image » interdit l'utilisation du nom ou de l'image d'une personne à des fins commerciales sans son consentement.

« Cela ne semble pas être le cas ici », a-t-il ajouté, notant que les bots se contentaient de reproduire les images de célébrités plutôt que de créer des œuvres transformatrices.