Des deepfakes horrifiants sur TikTok ciblant des victimes de crimes exigent des réglementations plus strictes

Résumé TL;DR

• Les vidéos deepfake générées par l'IA de TikTok représentant des victimes de meurtre, principalement des enfants, soulèvent des préoccupations éthiques. 
• La diffusion de vidéos deepfake graphiques générées par l'IA représentant des victimes de meurtre est illégale, sans consentement, et présente des défis éthiques importants.
• La prolifération de vidéos deepfake générées par l'IA sur TikTok brouille la ligne entre le divertissement et la revictimisation, nécessitant des réglementations plus strictes pour prévenir les dommages.

Dans un développement glaçant qui a suscité une préoccupation généralisée, TikTok est devenu une plateforme pour la diffusion de vidéos deepfake générées par l'IA mettant en scène des victimes de meurtre, principalement des enfants. Ces vidéos, qui utilisent la technologie d'intelligence artificielle pour recréer les voix et les apparences des victimes, dépeignent des scénarios horrifiants dans lesquels les victimes racontent les détails de leur propre décès tragique. Le contenu, souvent dépourvu d'avertissements appropriés, a attiré des millions de vues, soulevant de sérieuses questions éthiques sur l'intersection entre le fandom de la vraie criminalité et les capacités émergentes de l'IA.

Des comptes TikTok tels que @truestorynow et @TOUCHINGSTORY4U ont acquis une audience importante en publiant ces vidéos troublantes de deepfakes générés par l'IA. Bien que les créateurs affirment que les vidéos n'utilisent pas de vraies photos des victimes par respect pour les familles, les inexactitudes et les manipulations présentes dans les vidéos sont évidentes. Par exemple, une vidéo présentant l'histoire de Royalty Marie Floyd, une fillette de 20 mois poignardée et brûlée vive dans un four par sa grand-mère au Mississippi, met en scène un bébé généré par l'IA nommé Rody Marie Floyd. De telles altérations et déformations ne sont pas rares dans ce sous-genre de contenu de true crime sur TikTok.

TikTok révèle le côté sombre du fandom du true crime

Des experts et des universitaires ont exprimé leurs inquiétudes quant à l'impact de ces vidéos de deepfakes générés par l'IA. Paul Bleakley, maître de conférences en justice pénale à l'Université du New Haven, décrit ces vidéos comme « étranges et glauques » et suggère qu'elles sont conçues pour provoquer de fortes réactions émotionnelles afin de gagner en popularité. Cependant, le risque de revictimisation des familles concernées, ainsi que les implications juridiques liées à la création de deepfakes sans consentement, posent des défis éthiques majeurs.

La prolifération de vidéos de victimes de true crime générées par l'IA sur TikTok constitue le dernier dilemme éthique associé à la popularité croissante du genre du true crime. Bien que les documentaires, les podcasts et autres médias de true crime aient amassed une large audience, les critiques soutiennent que consommer ces histoires réelles d'agression et de meurtre comme de simples divertissements peut avoir des conséquences involontaires. L'essor des détectives amateurs et des obsédés du true crime peut potentiellement re-traumatiser les proches des victimes, exacerbant leur douleur et leur souffrance.

Aborder le problème du deepfake pornographique par une réglementation plus stricte

Au-delà des préoccupations éthiques, des ramifications juridiques peuvent découler de la création et de la diffusion de vidéos de deepfakes. Bien qu'aucune loi fédérale ne traite actuellement des images et vidéos de deepfakes non consensuels, certains États, comme la Virginie et la Californie, ont interdit la pornographie par deepfake. Le représentant Joe Morelle a récemment proposé une législation visant à criminaliser et à établir une responsabilité civile pour la diffusion d'images de deepfakes non consensuelles. Bien que la poursuite d'actions en justice puisse s'avérer difficile pour les familles en deuil en raison du décès des sujets, la monétisation potentielle de ces vidéos pourrait fournir des motifs pour des litiges civils.

La fusion inquiétante du true crime et de l'IA soulève des questions sur l'avenir de cette technologie et ses conséquences potentielles. Alors que l'IA évolue rapidement avec une réglementation minimale, la question n'est pas de savoir si des vidéos comme celles-ci deviendront plus populaires, mais plutôt à quel point leur contenu pourrait devenir plus troublant. La capacité de recréer les voix et même les détails macabres des crimes à l'aide de l'IA soulève des possibilités alarmantes.

Atténuer les dommages potentiels de ces tendances troublantes

Avec des implications éthiques et juridiques en jeu, il est crucial que des plateformes comme TikTok développent des directives et des réglementations plus strictes concernant la création et la diffusion de vidéos de deepfakes générées par l'IA. Trouver un équilibre entre innovation et utilisation responsable devient impératif pour prévenir les dommages potentiels causés par l'abus des outils d'IA.

La prolifération de vidéos de deepfakes générées par l'IA mettant en scène des victimes de true crime, en particulier des enfants, sur TikTok a suscité d'importantes préoccupations éthiques. Le caractère graphique et manipulateur de ces vidéos soulève des questions sur la revictimisation des familles et les implications juridiques entourant la création et la diffusion de contenu de deepfake. Alors que la technologie IA continue d'évoluer, il est essentiel d'établir des directives et des réglementations claires pour garantir une utilisation responsable et atténuer les dommages potentiels infligés par ces tendances troublantes.