È emersa una nuova truffa legata all'intelligenza artificiale che coinvolge migliaia di influencer generati dall'intelligenza artificiale che hanno invaso siti social come Instagram utilizzando immagini rubate di persone reali.
La truffa prevede il furto di video da modelli reali e creatori di contenuti per adulti, l'assegnazione di volti generati dall'intelligenza artificiale e la monetizzazione dei loro corpi con link a siti di incontri come Patreon, concorsi OnlyFans e varie app di intelligenza artificiale.
Gli influencer generati dall'intelligenza artificiale competono con gli umani su Instagram
Ad aprile, 404 Media ha segnalato per la prima volta questa pratica, quando è emersa per la prima volta. Ora è diventata una tendenza popolare, tanto che molti hanno pensato che il social media gestito da Meta non fosse in grado o non volesse fermare questa apparente tendenza sulla sua piattaforma.
Ciò avviene mentre i creatori di contenuti umani su Instagram affermano di essere in competizione con i contenuti creati dall'intelligenza artificiale in un modo che sta influenzando la loro redditività.
Grazie ad alcuni degli strumenti e delle app di intelligenza artificiale disponibili sugli store di Apple e Google Play, gli influencer dell'intelligenza artificiale possono ora creare e monetizzare facilmente i propri account. Secondo Wired, sono stati esaminati oltre 1.000 account Instagram generati dall'intelligenza artificiale e canali Discord in cui le persone che creano questi contenuti condividono suggerimenti e discutono strategie, oltre a diverse guide che spiegano come guadagnare tramite il "pimping dell'intelligenza artificiale".
Wired ha scoperto che il problema, che in passato era di minore importanza su Instagram, è diventato una pratica diffusa, in linea con diverse previsioni sul futuro panorama dei social media, in cui i contenuti generati dall'intelligenza artificiale eclissano quelli degli esseri umani.
I creatori di contenuti per adulti che promuovono il loro lavoro su Instagram ora temono di competere direttamente con questi account truffaldini basati sull'intelligenza artificiale, molti dei quali utilizzano fotografie e video rubati ai creatori di contenuti per adulti e ai modelli di Instagram.
Elaina St James , creatrice di contenuti per adulti, ha affermato che, sebbene possano esserci altri cambiamenti all'algoritmo di Instagram che potrebbero aver contribuito a questo fenomeno, dall'esplosione degli account influencer generati dall'IA su Instagram la sua "portata è diminuita drasticamente", passando da un tipico milione a 5 milioni di visualizzazioni al mese. Negli ultimi 10 mesi non ha superato il milione di visualizzazioni, e a volte si è attestata al di sotto delle 500.000.
"Questo è probabilmente uno dei motivi per cui le mie opinioni stanno calando. È perché mi trovo in competizione con qualcosa di innaturale." St James.
Alexios Mantzarlis, direttore dell'iniziativa sulla sicurezza, la fiducia e la protezione presso la Cornell Tech ed ex responsabile dell'intelligence sulla fiducia e la sicurezza presso Google, ha stilato un elenco di circa 900 account nella ricerca di 404 Media.
Mantzarlis ha affermato che non si tratta di nulla di totalmente nuovo o sorprendente, poiché si tratta semplicemente della conferma delle previsioni fatte in precedenza riguardo alla tecnologia dell'intelligenza artificiale e alla sua adozione sulle piattaforme dei social media.
"Sembrava un possibile segnale di come saranno i social media tra cinque anni", ha affermato Mantzarlis.
"Perché questo potrebbe arrivare anche in altre parti di Internet, non solo nella nicchia delle personetracsu Instagram. Questo è probabilmente un segnale che la situazione sarà piuttosto negativa."
Mantzarlis.
Su oltre 1.000 account di influencer Instagram generati dall'intelligenza artificiale, almeno 100 includevano contenuti deepfake che prendevano video esistenti, solitamente di modelli e artisti di intrattenimento per adulti, e sostituivano i loro volti con uno generato dall'intelligenza artificiale per dare ai video un aspetto nuovo.
I video appariranno come contenuti nuovi e originali, in linea con le altre immagini e i video generati dall'intelligenza artificiale condivisi dall'influencer generato dall'intelligenza artificiale.
Instagram agirà dopo aver ricevuto reclami
Instagram ha affermato che interverrà solo sugli account segnalati dal legittimo proprietario o da qualcuno autorizzato a segnalarli per suo conto. Tuttavia, molti influencer umani affermano che il canale fornito non funziona perché hanno troppi account di imitatori da seguire.
St James ha aggiunto che il fatto che molti di questi account di influencer generati dall'intelligenza artificiale siano gestiti da me è la beffa oltre il danno.
"Noi donne nel mondo guadagniamo meno. Siamo svantaggiate sotto molti aspetti. Un ambito in cui abbiamo un vantaggio è quello delle influencer e delle modelle, quindi è solo un ulteriore livello di difficoltà", ha affermato St James.
"Mi sento un po' sconcertata dal fatto che si tratti di un tizio che fa soldi fingendosi una donna", ha aggiunto.
Apple, che finora non è riuscita a risolvere il problema del "duplice uso" delle app di scambio di volti, che possono essere utilizzate in modo innocente ma spesso vengono impiegate per creare contenuti non consensuali, ha rimosso l'app dall'App Store dopo essere stata interpellata in merito alla questione.
