Profundamente perturbadores Deepfakes do TikTok de Vítimas de Crimes Necessitam de Regulamentações Mais Rigorosas

Resumo TL;DR

• Os vídeos deepfake gerados por IA do TikTok de vítimas de homicídio, principalmente crianças, levantam preocupações éticas. 
• A disseminação de vídeos deepfake gráficos de IA que retratam vítimas de homicídio é ilegal, ocorre sem consentimento e apresenta desafios éticos significativos.
• A proliferação de vídeos deepfake de IA no TikTok borra a linha entre entretenimento e revitimização, exigindo regulamentações mais rigorosas para prevenir danos.

Em um desenvolvimento assustador que provocou ampla preocupação, o TikTok tornou-se uma plataforma para a disseminação de vídeos deepfake gerados por IA apresentando vítimas de homicídio, principalmente crianças. Esses vídeos, que utilizam tecnologia de inteligência artificial para recriar as vozes e aparências das vítimas, retratam cenários horríveis nos quais as vítimas relatam os detalhes de sua própria trágica morte. O conteúdo, muitas vezes sem os devidos avisos, acumulou milhões de visualizações, levantando sérias questões éticas sobre a interseção entre o fandom de crimes reais e as capacidades emergentes de IA.

Contas do TikTok, como @truestorynow e @TOUCHINGSTORY4U, ganharam seguidores substanciais ao postar esses perturbadores vídeos deepfake de IA. Embora os criadores afirmem que os vídeos não usam fotos reais das vítimas como forma de respeitar as famílias, as imprecisões e manipulações nos vídeos são evidentes. Por exemplo, um vídeo que apresenta a história de Royalty Marie Floyd, uma menina de 20 meses que foi apunhalada e queimada viva em um forno por sua avó no Mississippi, mostra um bebê gerado por IA chamado Rody Marie Floyd. Tais alterações e representações falsas não são incomuns dentro deste subgênero de conteúdo de crimes reais no TikTok.

O TikTok mostra o lado sombrio do fandom de crimes reais

Especialistas e acadêmicos expressaram suas preocupações sobre o impacto desses vídeos deepfake de IA. Paul Bleakley, professor assistente de justiça criminal na Universidade de New Haven, descreve os vídeos como “estranhos e assustadores” e sugere que eles são projetados para elicitar fortes reações emocionais a fim de ganhar popularidade. No entanto, o potencial de revitimização das famílias envolvidas, bem como as implicações legais de criar vídeos deepfake sem consentimento, apresentam desafios éticos significativos.

A proliferação de vídeos de vítimas de crimes reais gerados por IA no TikTok é o último dilema ético associado à popularidade crescente do gênero de crimes reais. Embora documentários, podcasts e outros meios de crimes reais tenham acumulado grandes públicos, críticos argumentam que consumir essas histórias reais de agressão e homicídio como mero entretenimento pode ter consequências não intencionais. O surgimento de detetives de poltrona e obcecados por crimes reais pode potencialmente re-traumatizar os entes queridos das vítimas, exacerbando sua dor e sofrimento.

Abordar pornografia deepfake através de regulamentações mais rigorosas

Além das preocupações éticas, podem surgir ramificações legais da criação e disseminação de vídeos deepfake. Embora nenhuma lei federal atualmente aborde imagens e vídeos deepfake não consensuais, alguns estados, como Virgínia e Califórnia, proibiram a pornografia deepfake. O congressista Joe Morelle propôs recentemente legislação para criminalizar e estabelecer responsabilidade civil pela disseminação de imagens deepfake não consensuais. Embora buscar ações judiciais possa ser desafiador para famílias enlutadas devido à natureza falecida dos sujeitos, a monetização potencial desses vídeos poderia fornecer base para litígios civis.

A fusão perturbadora de crimes reais e IA levanta questões sobre o futuro dessa tecnologia e suas consequências potenciais. À medida que a IA evolui rapidamente com pouca regulamentação, a preocupação não é se vídeos como esses se tornarão mais populares, mas sim quão mais perturbador seu conteúdo pode se tornar. A capacidade de recriar as vozes e até mesmo os detalhes sangrentos de crimes usando IA levanta possibilidades alarmantes.

Mitigar o potencial dano dessas tendências perturbadoras

Com as implicações éticas e legais em jogo, é crucial que plataformas como o TikTok desenvolvam diretrizes e regulamentações mais rigorosas em relação à criação e disseminação de vídeos deepfake de IA. Encontrar um equilíbrio entre inovação e uso responsável torna-se imperativo para prevenir o potencial dano causado pelo uso indevido de ferramentas de IA.

A proliferação de vídeos deepfake de IA apresentando vítimas de crimes reais, particularmente crianças, no TikTok provocou preocupações éticas significativas. A natureza gráfica e manipulativa desses vídeos levanta questões sobre a revitimização das famílias e as implicações legais em torno da criação e disseminação de conteúdo deepfake. À medida que a tecnologia de IA continua a evoluir, é essencial estabelecer diretrizes e regulamentações claras para garantir o uso responsável e mitigar o potencial dano infligido por essas tendências perturbadoras.