Le stelle di Tik Tok generate dall'IA sotto accusa per la promozione di standard corporei irrealistici

In un recente sviluppo, ParentsTogether, un'importante organizzazione no-profit per genitori e famiglie che promuove un internet più sicuro per i bambini, ha compiuto un passo audace inviando una lettera aperta al CEO di TikTok, Shou Zi Chew. 

La lettera, firmata da oltre 12.000 genitori, richiede TikTok di intraprendere azioni immediate per etichettare chiaramente gli influencer generati dall'IA che spesso si spacciano per individui reali e promuovono standard di bellezza irrealistici per bambini e adolescenti.

Influencer Tik Tok generati dall'IA che mirano a un pubblico giovane

ParentsTogether ha identificato una tendenza preoccupante in cui numerosi video che presentano influencer generati dall'IA vengono attivamente promossi agli account degli utenti giovani. Ciò che solleva allarmi è la mancanza di etichette chiare su questi video, lasciando bambini e adolescenti inconsapevoli vulnerabili agli ideali di bellezza irrealistici perpetuati dall'intelligenza artificiale. 

Questi influencer generati dall'IA ingannevoli a volte affermano di possedere routine di dieta, fitness o cura della pelle, fuorviando menti impressionabili nel credere che determinati prodotti o comportamenti possano ottenere risultati simili a quelli prodotti dagli algoritmi informatici.

L'avviso ai genitori: navigare nel panorama degli influencer AI

In risposta a questa crescente preoccupazione, ParentsTogether ha emesso un avviso ai genitori ai propri membri, esortando i genitori a rimanere vigili riguardo ai contenuti degli influencer AI che si infiltrano nei feed dei social media dei propri figli. 

L'avviso sottolinea che gli influencer falsi creati da programmi informatici sono spesso indistinguibili dalle persone reali, rendendo imperativo per i genitori educare i propri figli a riconoscere e differenziare questi account generati dall'IA.

Sfide di etichettatura e danni nascosti

Una delle sfide principali risiede nell'etichettatura dei contenuti generati dall'IA su piattaforme come TikTok. Sebbene la responsabilità ricada principalmente sui creatori di contenuti nel designare il proprio lavoro come generato dall'IA, manca un consenso su un'etichetta standardizzata. Le aziende spesso impiegano termini vaghi come «ragazza virtuale» o «influencer virtuale», contribuendo alla confusione. Inoltre, molti video generati dall'IA rimangono senza etichetta, costringendo i giovani utenti ad approfondire il profilo dell'influencer per discernere che il contenuto non è stato creato da un individuo reale.

Una preoccupazione crescente: l'impatto sull'immagine corporea dei bambini

L'emergere di influencer generati dall'IA è un fenomeno relativamente recente, ma le conseguenze dannose della tecnologia alimentata dall'IA sull'immagine corporea dei bambini sono già state osservate. Un sondaggio condotto da ParentsTogether nel settembre 2021 ha rivelato inquietanti approfondimenti:

Gli adolescenti che trascorrono un tempo eccessivo online, in particolare sui social media (18+ ore a settimana), hanno quasi il doppio delle probabilità di non piacere al proprio aspetto rispetto a coloro che trascorrono meno tempo online (meno di 8 ore a settimana).

Gli adolescenti che utilizzano regolarmente filtri per il viso mostrano un interesse doppio per la chirurgia estetica e un interesse quadruplo per la modifica del colore della pelle, rispetto ai loro coetanei che utilizzano i filtri meno frequentemente.

Un significativo 61% degli adolescenti ha riferito che l'uso di filtri per il viso li fa sentire peggio riguardo al proprio aspetto nella vita reale.

Incredibilmente, oltre la metà (52%) degli adolescenti ha ammesso di utilizzare filtri per il viso per modificare i propri tratti somatici.

La sfida del reale o falso: la difficoltà di identificare i filtri per il viso

Per illustrare ulteriormente la questione, ParentsTogether ha condotto un quiz «Reale o Falso?», presentando agli adolescenti 10 foto di celebrità dai social media, alcune filtrate e altre no. 

Un sorprendente 70% dei partecipanti ha ricevuto un voto insufficiente, indicando la loro difficoltà nel distinguere tra immagini potenziate dai filtri per il viso e quelle che riflettono un aspetto naturale. Ciò evidenzia la sfida sostanziale affrontata dagli adolescenti nell'identificare l'uso di filtri per il viso sui social media.

Il ruolo di TikTok nella protezione dei giovani utenti

Shelby Knox, Direttrice della Campagna presso ParentsTogether, ha espresso profonda preoccupazione per la crescente prevalenza di influencer generati dall'IA su TikTok. Knox sottolinea il pericolo rappresentato per bambini e adolescenti, affermando che questi algoritmi informatici si presentano in modo convincente come individui reali che modellano standard di bellezza, dieta ed esercizio irraggiungibili. Tale contenuto fuorviante ha il potenziale per scatenare disturbi alimentari e contribuire alla dismorfia corporea tra i giovani utenti.

Knox conclude affermando che TikTok ha una responsabilità significativa verso la propria base di utenti giovani. La piattaforma deve intraprendere azioni decisive per garantire l'etichettatura chiara degli influencer AI e virtuali su tutti i loro video. 

Ciò, a sua volta, darà potere ai genitori e ai tutori di proteggere i propri figli dagli effetti negativi degli standard di bellezza irrealistici perpetuati dai contenuti generati dall'IA.