Un tribunal de Arizona rechaza un video de víctima generado por IA, lo que aviva la demanda de detección de deepfakes

Un tribunal de apelaciones de Arizona ha anulado la sentencia de 10,5 años de Gabriel Horcasitas, condenado por homicidio involuntario en un tiroteo provocado por ira vial en 2021, tras dictaminar que el juez sentenciador no debió considerar un video generado por IA de la víctima Christopher Pelkey.

La condena sigue en pie, pero el caso volverá para una nueva sentencia, según Reuters y un resumen del caso.

Un mensaje de perdón que el panel consideró que vició la sentencia

El panel de tres jueces indicó que el video generado por IA influyó indebidamente en la determinación de la pena.

Aunque el expediente no refleja con precisión cómo el video de IA incidió en el cálculo de la sentencia, no cabe duda de que jugó un papel.

— Juez D. Steven Williams, Corte de Apelaciones de Arizona, según lo informado por Reuters

El tribunal concluyó que el video perjudicó a Horcasitas lo suficiente como para hacer que el procedimiento de sentencia fuera fundamentalmente injusto. Reuters informó que el fiscal general de Arizona y el defensor público de Horcasitas se negaron a comentar.

Cómo la familia de Pelkey construyó el avatar

El guion fue escrito por la hermana de Pelkey, Stacey Wales, quien encontró difícil expresar con palabras lo que pensaba que su hermano habría dicho en esa situación. Según NPR, la familia creó el avatar mediante un breve clip de video, una imagen del funeral y una variedad de otras herramientas de IA.

El avatar se presentó como una creación de IA antes de dirigirse a Horcasitas con las palabras:

En otra vida, probablemente podríamos haber sido amigos.

Más tarde, el juez del juicio expresó su agradecimiento a la familia por el video.

Los tribunales no tienen un reglamento compartido para videos sintéticos

La decisión llega en un momento en que los tribunales enfrentan desafíos en relación con las pruebas artificiales. Un informe publicado por la Universidad de Colorado Boulder indica que más del 80% de los casos judiciales en EE. UU. se basan parcialmente en evidencia de video, mientras que los tribunales aún no tienen reglas comunes para abordar material generado o mejorado con IA.

Los investigadores también están preocupados por la llamada 'defensa deepfake', mediante la cual se declara falso un video real porque la IA hace que las afirmaciones sean plausibles.

Esta preocupación fue una de las razones para la creación del Corpus de Evidencia Sintética CIFAR, iniciado en junio de 2026, ya que los investigadores se dieron cuenta de que los conjuntos de datos anteriores no eran adecuados para enseñar a la tecnología a detectar manipulaciones sutiles que podrían ocurrir en el material de evidencia.

Procedencia, marcas de agua y un mercado de detección que corre para ponerse al día

El NIST identifica el seguimiento de la procedencia, la marca de agua y la detección de contenido sintético como formas clave para gestionar los medios generados por IA. Europa ha ido más allá: el Artículo 50 del Reglamento de IA de la UE exige que cierto contenido sintético sea legible por máquina y que los deepfakes se divulguen como generados o manipulados artificialmente.

El vínculo comercial se está volviendo más evidente. El SNS Insider valora el mercado de detección de deepfakes en 1.190 millones de dólares en 2026 y proyecta que alcanzará los 12.140 millones de dólares para 2035, con un CAGR del 29,5%.

Una sola sentencia en Arizona no creará ese mercado por sí sola. Pero cuando más de cuatro quintos de los casos judiciales ya dependen de videos, cada disputa sobre si una prueba es auténtica aumenta la necesidad práctica de herramientas que puedan verificarla.

Esto convierte los deepfakes en los tribunales de un problema legal en una verdadera oportunidad de negocio para las empresas que venden verificación forense. China avanza en la misma dirección, con el Cryptopolitan reportando nuevas normas de responsabilidad para deepfakes de IA y clonación de voz en septiembre.