Orribili Deepfake di TikTok sulle Vittime di Crimini Necessitano di Regolamentazioni più Rigide

Riepilogo TL;DR

• I video deepfake generati dall'IA di TikTok sulle vittime di omicidio, per lo più bambini, sollevano preoccupazioni etiche. 
• La diffusione di video deepfake grafici generati dall'IA che ritraggono vittime di omicidio è illegale, avviene senza consenso e presenta sfide etiche significative.
• La proliferazione di video deepfake generati dall'IA su TikTok confonde i confini tra intrattenimento e rivittimizzazione, rendendo necessarie regolamentazioni più rigide per prevenire danni.

In uno sviluppo inquietante che ha suscitato ampia preoccupazione, TikTok è diventato una piattaforma per la diffusione di video deepfake generati dall'IA che ritraggono vittime di omicidio, principalmente bambini. Questi video, che utilizzano la tecnologia di intelligenza artificiale per ricreare le voci e l'aspetto delle vittime, raffigurano scenari orribili in cui le vittime raccontano i dettagli della propria tragica scomparsa. I contenuti, spesso privi di avvisi appropriati, hanno ottenuto milioni di visualizzazioni, sollevando gravi questioni etiche sull'intersezione tra il fandom del true crime e le emergenti capacità dell'IA.

Account TikTok come @truestorynow e @TOUCHINGSTORY4U hanno ottenuto un seguito sostanziale pubblicando questi inquietanti video deepfake generati dall'IA. Sebbene i creatori affermino che i video non utilizzano foto reali delle vittime come mezzo per rispettare le famiglie, le inesattezze e le manipolazioni nei video sono evidenti. Ad esempio, un video che racconta la storia di Royalty Marie Floyd, una bambina di 20 mesi pugnalata e bruciata viva in un forno dalla nonna nel Mississippi, mostra un bambino generato dall'IA di nome Rody Marie Floyd. Tali alterazioni e rappresentazioni errate non sono uncommoni all'interno di questo sottogenere di contenuti sul true crime su TikTok.

TikTok mostra il lato oscuro del fandom del true crime

Esperti e accademici hanno espresso le loro preoccupazioni riguardo all'impatto di questi video deepfake generati dall'IA. Paul Bleakley, professore assistente di giustizia penale all'Università di New Haven, descrive i video come "strani e inquietanti" e suggerisce che siano progettati per suscitare forti reazioni emotive al fine di guadagnare popolarità. Tuttavia, la potenziale rivittimizzazione delle famiglie coinvolte, nonché le implicazioni legali della creazione di video deepfake senza consenso, presentano sfide etiche significative.

La proliferazione di video deepfake generati dall'IA sulle vittime del true crime su TikTok è l'ultimo dilemma etico associato alla popolarità in continua crescita del genere del true crime. Sebbene documentari, podcast e altri media sul true crime abbiano amassed grandi followings, i critici sostengono che consumare queste storie reali di aggressione e omicidio come semplice intrattenimento possa avere conseguenze involontarie. L'ascesa degli investigatori dilettanti e degli ossessionati dal true crime può potenzialmente ritraumatizzare i cari delle vittime, esacerbando il loro dolore e sofferenza.

Affrontare i deepfake pornografici attraverso regolamentazioni più rigide

Oltre alle preoccupazioni etiche, possono sorgere ramificazioni legali dalla creazione e diffusione di video deepfake. Sebbene non esista attualmente una legge federale che affronti le immagini e i video deepfake non consensuali, alcuni stati, come Virginia e California, hanno bandito la pornografia deepfake. Il deputato Joe Morelle ha recentemente proposto una legislazione per criminalizzare e stabilire la responsabilità civile per la diffusione di immagini deepfake non consensuali. Sebbene perseguire un'azione legale possa rivelarsi difficile per le famiglie in lutto a causa della natura deceduta dei soggetti, la potenziale monetizzazione di questi video potrebbe fornire motivi per un contenzioso civile.

La sconcertante fusione tra true crime e IA solleva domande sul futuro di questa tecnologia e sulle sue potenziali conseguenze. Man mano che l'IA evolve rapidamente con una regolamentazione minima, la preoccupazione non è se video come questi diventeranno più popolari, ma piuttosto quanto più inquietante potrebbe diventare il loro contenuto. La capacità di ricreare le voci e persino i dettagli cruenti dei crimini utilizzando l'IA solleva possibilità allarmanti.

Mitigare il potenziale danno di queste tendenze inquietanti

Con le implicazioni etiche e legali in gioco, è fondamentale che piattaforme come TikTok sviluppino linee guida e regolamentazioni più rigide riguardo alla creazione e diffusione di video deepfake generati dall'IA. Trovare un equilibrio tra innovazione e uso responsabile diventa imperativo per prevenire i potenziali danni causati dall'uso improprio degli strumenti di IA.

La proliferazione di video deepfake generati dall'IA che ritraggono vittime del true crime, in particolare bambini, su TikTok ha suscitato significative preoccupazioni etiche. La natura grafica e manipolativa di questi video solleva domande sulla rivittimizzazione delle famiglie e sulle implicazioni legali riguardanti la creazione e la diffusione di contenuti deepfake. Man mano che la tecnologia IA continua a evolversi, è essenziale stabilire linee guida e regolamentazioni chiare per garantire un uso responsabile e mitigare il potenziale danno inflitto da queste tendenze inquietanti.