Les stars de Tik Tok générées par l'IA sous le feu pour avoir promu des standards corporels irréalistes

Dans un développement récent, ParentsTogether, une organisation à but non lucratif prominente de parents et de familles défendant un internet plus sûr pour les enfants, a fait un pas audacieux en envoyant une lettre ouverte au PDG de TikTok, Shou Zi Chew. 

La lettre, signée par plus de 12 000 parents, demande à TikTok de prendre des mesures immédiates pour étiqueter clairement les influenceurs générés par l'IA qui se font souvent passer pour de vraies personnes et promeuvent des normes de beauté irréalistes pour les enfants et les adolescents.

Influenceurs TikTok générés par l'IA ciblant les jeunes audiences

ParentsTogether a identifié une tendance inquiétante où de nombreuses vidéos mettant en vedette des influenceurs générés par l'IA sont activement promues sur les comptes des jeunes utilisateurs. Ce qui soulève des alarmes, c'est le manque d'étiquettes claires sur ces vidéos, laissant les enfants et les adolescents innocents vulnérables aux idéaux de beauté irréalistes perpétués par l'intelligence artificielle. 

Ces influenceurs trompeurs générés par l'IA prétendent parfois posséder des régimes alimentaires, des routines de fitness ou des soins de la peau, induisant en erreur les esprits impressionnables en leur faisant croire que certains produits ou comportements peuvent produire des résultats similaires à ceux produits par des algorithmes informatiques.

L'avis parental : naviguer dans le paysage des influenceurs IA

En réponse à cette préoccupation croissante, ParentsTogether a émis un avis parental à ses membres, exhortant les parents à rester vigilants quant au contenu des influenceurs IA infiltrant les fils d'actualité des réseaux sociaux de leurs enfants. 

L'avis souligne que les faux influenceurs créés par des programmes informatiques sont souvent indiscernables des vraies personnes, rendant impératif pour les parents d'éduquer leurs enfants à reconnaître et à différencier ces comptes générés par l'IA.

Défis d'étiquetage et dommages cachés

L'un des défis principaux réside dans l'étiquetage du contenu généré par l'IA sur des plateformes comme TikTok. Bien que la responsabilité incombe principalement aux créateurs de contenu de désigner leur travail comme généré par l'IA, il n'y a pas de consensus sur une étiquette standardisée. Les entreprises utilisent souvent des termes vagues tels que « fille virtuelle » ou « influenceur virtuel », contribuant à la confusion. De plus, de nombreuses vidéos générées par l'IA restent non étiquetées, obligeant les jeunes utilisateurs à plonger dans le profil de l'influenceur pour discerner que le contenu n'est pas la création d'un individu réel.

Une préoccupation grandissante : l'impact sur l'image corporelle des enfants

L'émergence des influenceurs générés par l'IA est un phénomène relativement récent, mais les conséquences néfastes de la technologie alimentée par l'IA sur l'image corporelle des enfants ont déjà été observées. Une enquête menée par ParentsTogether en septembre 2021 a révélé des informations troublantes :

Les adolescents qui passent un temps excessif en ligne, en particulier sur les réseaux sociaux (18+ heures par semaine), sont près de deux fois plus susceptibles de ne pas aimer leur propre apparence par rapport à ceux qui passent moins de temps en ligne (moins de 8 heures par semaine).

Les adolescents qui utilisent régulièrement des filtres de beauté font preuve d'un intérêt deux fois plus grand pour la chirurgie esthétique et d'un intérêt quatre fois plus grand pour modifier leur couleur de peau, par rapport à leurs pairs qui utilisent moins fréquemment des filtres.

Un 61 % significatif des adolescents a déclaré que l'utilisation de filtres de beauté les fait se sentir pires concernant leur apparence dans la vie réelle.

De manière surprenante, plus de la moitié (52 %) des adolescents ont admis utiliser des filtres de beauté pour modifier les traits de leur visage.

Le vrai ou le faux défi : la difficulté à identifier les filtres de beauté

Pour illustrer davantage le problème, ParentsTogether a organisé un quiz « Vrai ou Faux ? », présentant aux adolescents 10 photos de célébrités issues des réseaux sociaux, certaines filtrées et d'autres non. 

Un impressionnant 70 % des participants a obtenu une note insuffisante, ce qui indique leur difficulté à distinguer les images améliorées par des filtres de beauté de celles reflétant une apparence naturelle. Cela met en lumière le défi considérable auquel sont confrontés les adolescents lorsqu'ils tentent d'identifier l'utilisation de filtres de beauté sur les réseaux sociaux.

Le rôle de TikTok dans la protection des jeunes utilisateurs

Shelby Knox, directrice de campagne chez ParentsTogether, a exprimé sa profonde inquiétude face à la prévalence croissante des influenceurs générés par l'IA sur TikTok. Knox souligne le danger que ces algorithmes informatiques représentent pour les enfants et les adolescents, affirmant qu'ils se présentent de manière convaincante comme de véritables individus incarnant des standards de beauté, de régime alimentaire et d'exercice physique inatteignables. Ce contenu trompeur a le potentiel de déclencher des troubles alimentaires et de contribuer à la dysmorphophobie chez les jeunes utilisateurs.

Knox conclut en affirmant que TikTok a une responsabilité significative envers sa jeune base d'utilisateurs. La plateforme doit prendre des mesures décisives pour garantir l'étiquetage clair des influenceurs IA et virtuels sur toutes leurs vidéos. 

Cela permettra aux parents et tuteurs de protéger leurs enfants des effets néfastes des standards de beauté irréalistes perpétués par le contenu généré par l'IA.