Tribunal do Arizona rejeita vídeo de vítima com IA, alimentando demanda por detecção de deepfake

Um tribunal de apelações do Arizona anulou a sentença de 10,5 anos de Gabriel Horcasitas, condenado por homicídio culposo em um tiroteio motivado por fúria no trânsito em 2021, após decidir que o juiz da sentença não deveria ter considerado um vídeo gerado por IA da vítima Christopher Pelkey.

A condenção permanece, mas o caso retornará para uma nova sentença, segundo Reuters e um resumo do caso.

Uma mensagem de perdão, segundo o painel, contaminou a sentença

O painel de três juízes afirmou que o vídeo gerado por IA influenciou indevidamente a fixação da pena.

Embora o registro não reflita precisamente como o vídeo de IA foi ponderado no cálculo da sentença, não há dúvida de que ele desempenhou um papel.

— Juiz D. Steven Williams, Tribunal de Apelações do Arizona, conforme reportado por Reuters

O tribunal concluiu que o vídeo prejudicou Horcasitas a ponto de tornar o procedimento de sentença fundamentalmente injusto. Reuters relatou que o procurador-geral do Arizona e o defensor público de Horcasitas se recusaram a comentar.

Como a família de Pelkey construiu o avatar

O roteiro foi escrito pela irmã de Pelkey, Stacey Wales, que achou difícil expressar em palavras o que ela acreditava que seu irmão teria dito naquela situação. Segundo NPR, a família criou o avatar por meio de um curta-metragem, uma imagem do funeral e uma variedade de outras ferramentas de IA.

O avatar apresentou-se como uma criação de IA antes de falar com Horcasitas com as palavras:

Em outra vida, provavelmente poderíamos ter sido amigos.

Posteriormente, o juiz do processo expressou gratidão à família pelo vídeo.

Os tribunais não possuem um manual comum para vídeos sintéticos

A decisão ocorre num momento em que os tribunais enfrentam desafios relacionados à evidência artificial. Um relatório publicado pela Universidade do Colorado Boulder afirma que mais de 80% dos casos judiciais nos EUA são parcialmente baseados em evidências em vídeo, enquanto os tribunais ainda não possuem regras comuns para lidar com imagens geradas ou aprimoradas por IA.

Pesquisadores também estão preocupados com a chamada “defesa deepfake”, na qual vídeos reais são declarados falsos porque a IA torna as alegações plausíveis.

Essa preocupação foi uma das razões para a criação do Corpus de Evidências Sintéticas CIFAR, iniciado em junho de 2026, quando os pesquisadores perceberam que os conjuntos de dados anteriores não eram adequados para ensinar à tecnologia como detectar manipulações sutis que poderiam ocorrer em materiais de evidência.

Procedência, marcas d'água e um mercado de detecção correndo para alcançar o ritmo

O NIST identifica o rastreamento de proveniência, a marca d'água e a detecção de conteúdo sintético como formas-chave de gerenciar mídia gerada por IA. A Europa foi além: o Artigo 50 do Regulamento de IA da UE exige que certos conteúdos sintéticos sejam legíveis por máquina e que deepfakes sejam divulgados como gerados ou manipulados artificialmente.

O vínculo comercial está se tornando mais evidente. O SNS Insider avalia o mercado de detecção de deepfakes em US$ 1,19 bilhão em 2026 e projeta que ele atingirá US$ 12,14 bilhões até 2035, com uma taxa composta anual de crescimento (CAGR) de 29,5%.

Uma decisão no Arizona não criará esse mercado por si só. Mas quando mais de quatro quintos dos casos judiciais já dependem de vídeo, cada disputa sobre a autenticidade das provas aumenta a necessidade prática de ferramentas que possam verificá-la.

Isso transforma os deepfakes em tribunais de um problema jurídico em uma verdadeira oportunidade de negócios para empresas que vendem verificação forense. A China está seguindo na mesma direção, com o Cryptopolitan relatando novas regras de responsabilidade para deepfakes de IA e clonagem de voz em setembro.