La corte dell'Arizona respinge un video con vittima AI, alimentando la domanda di rilevamento deepfake

Una corte d'appello dell'Arizona ha annullato la pena di 10 anni e mezzo inflitta a Gabriel Horcasitas, condannato per omicidio colposo in seguito a uno sparo scatenato da rabbia stradale nel 2021, stabilendo che il giudice non avrebbe dovuto prendere in considerazione un video generato dall'IA della vittima Christopher Pelkey.

La condanna rimane valida, ma il caso tornerà per una nuova determinazione della pena, secondo Reuters e un riassunto del caso.

Un messaggio di perdono, secondo quanto affermato dal collegio giudicante, ha viziato la condanna

Il collegio composto da tre giudici ha dichiarato che il video generato dall'IA ha influenzato indebitamente la determinazione della pena.

Sebbene gli atti non riflettano con precisione in che modo il video generato dall'IA abbia inciso sul calcolo della pena, non vi è dubbio che abbia avuto un ruolo.

— Giudice D. Steven Williams, Corte d'Appello dell'Arizona, come riportato da Reuters

Il tribunale ha concluso che il video ha pregiudicato Horcasitas al punto da rendere la procedura di determinazione della pena fondamentalmente ingiusta. Reuters ha riferito che l'avvocato generale dell'Arizona e il difensore pubblico di Horcasitas hanno declinato ogni commento.

Come la famiglia di Pelkey ha creato l'avatar

La sceneggiatura è stata scritta dalla sorella di Pelkey, Stacey Wales, che ha trovato difficile esprimere a parole ciò che pensava suo fratello avrebbe detto in quella situazione. Secondo NPR, la famiglia ha creato l'avatar mediante un breve video, un'immagine del funerale e una serie di altri strumenti di intelligenza artificiale.

L'avatar si è presentato come una creazione dell'IA prima di rivolgersi a Horcasitas con le parole:

In un'altra vita, probabilmente saremmo potuti essere amici.

Successivamente, il giudice del processo ha espresso gratitudine alla famiglia per il video.

I tribunali non dispongono di un regolamento condiviso per i video sintetici

La decisione arriva in un momento in cui i tribunali affrontano sfide relative alle prove artificiali. Un rapporto pubblicato dall'Università del Colorado Boulder afferma che oltre l'80% dei casi giudiziari negli Stati Uniti si basa in parte su prove video, mentre i tribunali non hanno ancora regole comuni per gestire filmati generati o potenziati dall'intelligenza artificiale.

I ricercatori sono anche preoccupati per la cosiddetta “difesa deepfake”, in cui video reali vengono dichiarati falsi perché l'IA rende le affermazioni plausibili.

Questa preoccupazione è stata una delle ragioni alla base della creazione di CIFAR Synthetic Evidence Corpus, avviata nel giugno 2026, poiché i ricercatori hanno realizzato che i dataset precedenti non erano adatti per insegnare alla tecnologia a rilevare manipolazioni sottili che potrebbero verificarsi nei materiali probatori.

Provenienza, filigrane e un mercato di rilevamento in corsa per recuperare

NIST identifica il tracciamento della provenienza, la filigrana digitale e il rilevamento di contenuti sintetici come metodi chiave per gestire i media generati dall'IA. L'Europa ha fatto un passo in più: l'articolo 50 del regolamento UE sull'IA richiede che certi contenuti sintetici siano leggibili dalle macchine e che i deepfake vengano dichiarati come artificialmente generati o manipolati.

Il legame commerciale sta diventando sempre più evidente. SNS Insider valuta il mercato del rilevamento dei deepfake in $1,19 miliardi nel 2026 e prevede che raggiungerà $12,14 miliardi entro il 2035, con un CAGR di 29,5%.

Una singola sentenza in Arizona non creerà da sola quel mercato. Tuttavia, quando oltre quattro quinti dei casi giudiziari dipendono già da video, ogni disputa sull'autenticità delle prove aumenta la necessità pratica di strumenti in grado di verificarla.

Ciò trasforma i deepfake giudiziari da un problema legale a una reale opportunità di business per le aziende che offrono verifiche forensi. La Cina si sta muovendo nella stessa direzione, con Cryptopolitan che riporta nuove norme sulla responsabilità per i deepfake dell'IA e il clonaggio vocale a settembre.