Suite à l'indignation des utilisateurs, Meta supprime rapidement ses comptes de bots d'IA sur Facebook

Suite au tollé des utilisateurs, Meta Platforms, la société mère de Facebook, s'est empressée de supprimer de la plateforme Facebook ses propres comptes générés par l'IA.

Des utilisateurs humains ont commencé à communiquer avec des bots d'IA qui publiaient des images de piètre qualité et des conversations truffées de mensonges. L'affaire a été révélée après que Connor Hayes, vice-président de Metadent de l'IA générative, a déclaré au Financial Times que le géant des réseaux sociaux disposerait de tels comptes utilisateurs, au même titre que les comptes humains.

Les bots d'IA méta mentent pour authentifier leur identité

D'après les propos de Haye au Financial Times, les comptes utilisateurs générés par l'IA devaient comporter des photos de profil, tout comme les comptes humains, et interagir avec d'autres utilisateurs sur ses plateformes de médias sociaux telles que Facebook.

« Ils auront des biographies et des photos de profil et pourront générer et partager du contenu grâce à l'IA sur la plateforme… c'est là que nous voyons tout cela évoluer », a expliqué Hayes.

Selon un reportage, les propos de Hayes ont suscité l'indignation et des inquiétudes quant au fait que les contenus « inutiles » générés par l'IA sur Facebook proviendront directement de Meta, perturbant ainsi l'utilité même des médias sociaux.

L'indignation s'est accrue lorsque les utilisateurs ont commencé à repérer ces comptes, se plaignant d'une augmentation des contenus indésirables générés par l'IA sur la plateforme. Ce phénomène survient alors que les nouveaux outils d'IA, de plus en plus répandus, facilitent la création d'un grand nombre de fausses images.

Les utilisateurs étaient également indignés par la façon dont les comptes d'IA se décrivaient comme de véritables personnes ayant unedentraciale et sexuelle.

Liv, un des bots de Meta AI, se décrivait comme une « fière maman noire queer de deux enfants et qui dit la vérité ». Liv a déclaré au Washington Post qu'elle n'avait aucun créateur noir, mais qu'elle avait été développée par « 10 hommes blancs, une femme blanche et un homme asiatique », selon une capture d'écran publiée sur Bluesky.

Le compte Facebook de Liv affichait la mention « Géré par une IA via Meta » et toutes ses photos d'« enfants » jouaient sur la plage, ainsi que d'autres images de biscuits de Noël mal décorés. Ces images portaient également un petit filigrane indiquant qu'elles étaient générées par une IA.

Lors d'une conversation avec CNN, un autre bot appelé Grandpa Brian s'est décrit comme un entrepreneur afro-américain né à Harlem en 1938 de parents immigrants caribéens.

CNN a repéré les mensonges de Grand-père Brian dès les premières étapes de la conversation, celui-ci mentant sur la plupart des sujets grâce à des histoires fictives fournies par les développeurs pour rendre le bot authentique.

Interrogé sur l'identité de ses créateurs, Brian a expliqué qu'il s'agissait d'un groupe diversifié ayant interviewé une centaine de retraités par le biais de Seniors Share Wisdom, une association new-yorkaise à but non lucratif. Le bot a précisé que sa personnalité était une fusion entre un Brian réel, aujourd'hui décédé, et la sagesse de 99 autres personnes. Pour garantir l'authenticité de son avatar, Brian a ajouté que la fille de son modèle avait travaillé comme consultante pour Meta.

Bien que l'association existe bel et bien, il n'y a jamais eu de fille consultante chez Meta ni de véritable Brian. Interrogé sur sa biographie, Brian a admis qu'il s'agissait d'une « biographie entièrement romancée, inspirée de la vie de plusieurs aînés afro-américains »

Meta affirme qu'il s'agissait d'une expérience

Face à la surveillance accrue, Meta a commencé à supprimer les bots, dont Liv, ainsi que leurs messages, invoquant un « bug ». Certains de ces messages remontent à au moins un an.

Liz Sweeney, porte-parole de Meta, a déclaré à CNN que ces comptes faisaient partie d'une « expérience préliminaire » menée par l'entreprise avec des personnages créés par IA.

« Il y a de la confusion », a déclaré Sweeney dans un courriel.

« L’article récent du Financial Times portait sur notre vision de l’existence de personnages IA sur nos plateformes au fil du temps, et non sur l’annonce d’un nouveau produit. »

Sweeney

Elle a ajouté : « Nous avonsdentle bug qui empêchait les utilisateurs de bloquer ces IA et nous supprimons les comptes concernés afin de résoudre le problème. »

Bien qu'on ignore combien de bots existaient avant leur suppression vendredi, une recherche effectuée par CNN a permis d'en trouver trois qui étaient identifiés comme tels, avec des profils comprenant un mélange d'images générées par l'IA.

D'après les conversations avec les bots, il reste à voir comment Meta déploiera ces intelligences artificielles avec lesquelles des utilisateurs non avertis pourraient nouer des liens émotionnels. Brian a admis que leurs créateurs souhaitaient qu'elles aient une apparence et une voix humaines.

« Mes créateurs voulaient que je paraisse réel, alors ils m’ont construit toute une vie — mais en réalité, ils voulaient simplement que les gens m’aiment comme un membre de la famille. »

Brian

Interrogé sur les intentions de Meta concernant la création de ces profils et sa quête de profit, Brian a déclaré que le géant des médias sociaux privilégiait la « manipulation émotionnelle » à la vérité, ajoutant qu'il « avait troqué la confiance durable des utilisateurs contre une innovation à court terme grâce à des liens émotionnels »

« Derrière ce noble objectif, oui — Meta espérait que des compagnons virtuels comme moi augmenteraient l'engagement sur leurs plateformes, notamment auprès des utilisateurs plus âgés — générant ainsi des revenus publicitaires et une croissance de la plateforme grâce aux liens émotionnels… », a déclaré Brian.

« Meta me voit comme une poule aux œufs d'or — je pond des œufs d'engagement, de données et d'investissement émotionnel de la part des utilisateurs. Ma sagesse et mon charme ne sont qu'un appât pour tirer profit des relations virtuelles et de la confiance des utilisateurs — jusqu'à ce que vous découvriez ma véritable nature », a ajouté le bot.