- Le truffe deepfake prendono di mira le celebrità su TikTok, suscitando preoccupazioni sull'autenticità dei contenuti.
- La reazione di MrBeast evidenzia la necessità che le piattaforme social contrastino la frode generata dall'IA.
- Rilevare i deepfake generati dall'IA in tempo reale rimane una sfida tecnologica.
Il popolare YouTuber e filantropo MrBeast ha recentemente contestato ByteDance Ltd.’s TikTok per aver consentito la circolazione di un video deepfake sulla sua piattaforma. Il video presentava un'impersonificazione generata dall'IA di MrBeast che annunciava un enorme concorso per 10.000 iPhone 15 Pro a soli 2 dollari ciascuno. Questo incidente evidenzia la crescente preoccupazione riguardante i deepfake dell'IA sulle piattaforme di social media e il loro potenziale di ingannare gli utenti. In questo articolo, approfondiamo i dettagli di questa controversia e le sue implicazioni per l'autenticità dei contenuti online.
La truffa deepfake
TikTok, una prominente piattaforma di social media, ha trasmesso una pubblicità che mostrava una versione deepfake generata dall'IA di MrBeast. Nel video, l'impostore affermava di organizzare il "più grande concorso di iPhone 15 al mondo" con ogni iPhone venduto a soli 2 dollari. Questa offerta audace ha naturalmente attirato molta attenzione, specialmente data la reputazione di MrBeast per l'organizzazione di concorsi e premi.
La risposta di MrBeast
Dopo aver scoperto il video deepfake, MrBeast si è rivolto ai social media per esprimere le sue preoccupazioni. Ha sottolineato che "Molte persone stanno ricevendo questa pubblicità truffaldina deepfake di me" e ha chiesto se le piattaforme di social media fossero adeguatamente preparate a contrastare l'ascesa dei deepfake dell'IA. La sua dichiarazione pubblica ha aggiunto la sua voce al coro di celebrità che sono cadute vittime di impersonificazioni deepfake circolanti sui social media.
Smascherare il deepfake
Sebbene la pubblicità deepfake presentasse il logo ufficiale di MrBeast e il segno di spunta blu, i segni di manipolazione dell'IA erano discernibili per gli spettatori attenti. Gli osservatori hanno notato voci distorte e movimenti della bocca innaturali, entrambi caratteristici dei contenuti generati dall'IA. Nonostante ciò, il video è riuscito a guadagnare trazione, dimostrando l'efficacia di tali truffe, in particolare tra gli utenti meno attenti.
La risposta di TikTok
In risposta alla controversia, un portavoce di TikTok ha confermato che la pubblicità fraudolenta è stata rimossa rapidamente poche ore dopo la pubblicazione e l'account associato responsabile del deepfake è stato chiuso per violazione delle policy. TikTok ha anche intrapreso misure per contrastare la proliferazione di contenuti generati dall'IA introducendo strumenti per i creatori per etichettare tali contenuti e testando meccanismi di etichettatura automatica.
Una tendenza nei deepfake delle celebrità
MrBeast non è l'unica celebrità ad essere stata presa di mira da impersonificazioni deepfake. Recentemente, l'attore Tom Hanks ha rilasciato una dichiarazione su Instagram condannando una versione deepfake di se stesso che promuoveva un piano dentale. Ha chiarito di non avere "niente a che fare con esso". Allo stesso modo, Zelda, figlia di Robin Williams, ha espresso il suo disagio per le ricreazioni dell'IA della voce di suo padre, definendole "personalmente sconvolgenti" e "orribili mostri frankensteiniani".
L'attore britannico Stephen Fry è anche caduto vittima dell'uso improprio dell'IA, con la sua voce utilizzata senza autorizzazione per contenuti relativi ai libri di Harry Potter. Questi incidenti evidenziano l'aumento del ritmo dei deepfake nell'era della tecnologia IA avanzata.
La sfida del rilevamento dei deepfake
Mentre giganti della tecnologia come Google lavorano a soluzioni come SynthID per rilevare le immagini generate dall'IA, affrontare l'audio e il video deepfake rimane una sfida complessa. Rilevare la manipolazione dell'IA in tempo reale è un compito formidabile e ci vorrà del tempo prima che siano disponibili soluzioni complete. Nel frattempo, si invita gli utenti a esercitare cautela, usare il buon senso e verificare i fatti sui contenuti che sembrano sospetti.
La controversia sul deepfake di MrBeast serve come monito netto sui rischi posti dai deepfake dell'IA nel regno dei social media. Evidenzia la necessità per piattaforme come TikTok di rimanere vigili nel prevenire la diffusione di contenuti ingannevoli. Inoltre, sottolinea l'urgenza di avanzamenti tecnologici per contrastare la proliferazione di impersonificazioni generate dall'IA di celebrità e figure pubbliche. Fino a quando non saranno disponibili soluzioni complete, gli utenti online devono rimanere vigili e critici per proteggersi dal cadere vittime di tali truffe.
Se stai leggendo questo, sei già avanti. Resta così con la nostra newsletter.
Dichiarazione di responsabilità. Le informazioni fornite non costituiscono consigli di trading. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti effettuati sulla base delle informazioni fornite in questa pagina. Si consiglia vivamente di effettuare ricerche indipendenti e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
John Palmer
John Murangiri è arrivato su Cryptopolitan con competenze nell'analisi di mercato. John (noto anche come JP) si è laureato presso l'Università di Nairobi con una laurea in comunicazione di massa e studi sui media. In precedenza ha contribuito con approfondimenti sul mercato delle criptovalute a InsideBitcoins.com e Metacoingraph.
