Mujeres de Arizona demandan por deepfakes sexuales generados por IA

Tres mujeres de Arizona han demandado a varias personas y empresas, alegando que sus imágenes fueron tomadas de sus páginas de redes sociales y alimentadas en modelos de inteligencia artificial (IA) para generar deepfakes de ellas. Afirmaron que los sospechosos involucrados utilizaron los modelos para generar sus imágenes explícitas y obtener beneficios de ellas.

La demanda presentada ante el Tribunal Superior del Condado de Maricopa, en Arizona, tiene como objetivo una cuenta de Instagram que ha publicado múltiples videos de mujeres, promocionándolas como modelos de IA para generar ingresos. Las demandantes, cuyos nombres se mantienen en secreto por razones de privacidad, señalaron que algunas de las imágenes generadas por IA fueron creadas utilizando sus fotos de redes sociales sin consentimiento previo. Una de las víctimas mencionó que ahora es vista de una manera que le resulta incómoda, simplemente debido a la circulación de dichas imágenes.

Mujeres de Arizona inician demanda por contenido generado por IA

La demanda nombra a tres acusados del Condado de Maricopa en Arizona, incluido Beau Schultz, el propietario de la cuenta de Instagram. La demanda también nombra a otros 50 John Does y varias empresas que supuestamente fueron creadas o utilizadas para dirigir el negocio. Los demandantes están representados por Nick Brand de Donlon Group y Cristina Perez Hesano de Pere Law Group.

Según Brand, los acusados, que probablemente son de Arizona, crearon planos para enseñar a otros hombres y niños cómo hacer estos llamados influencers de IA que luego son desnudados a partir de imágenes completamente vestidas. Añadió que los acusados utilizan estos deepfakes generados para configurar un sitio web pornográfico basado en suscripciones donde comparten mensajes eróticos con los clientes. Brand señaló que el problema parece más amplio de lo que había imaginado antes de que se le asignara el caso.

En la demanda de Arizona, los acusados instruyeron a sus clientes a evitar utilizar influencers populares o reconocidos y, en su lugar, emplear microinfluencers para reducir el riesgo de problemas legales. «No puedo creer lo ingenua que fui respecto al sufrimiento que atraviesan las mujeres a medida que avanza la tecnología», declaró Brand . Según una de las víctimas, solo una legislación estricta puede prevenir estos males y evitar que más mujeres sean blanco de esquemas similares.

La plataforma de pagos niega haber cometido alguna falta

Otra víctima mencionó que el público no debería poder usar la inteligencia artificial para causar tanto caos, señalando que quienes la utilizan están apuntando a la hermana, madre, amiga y compañera de trabajo de alguien. Mientras tanto, una de las empresas mencionadas en la demanda, Phyziro, una plataforma de procesamiento de pagos, dijo que las acusaciones son materialmente falsas. La empresa afirmó que es un proveedor de Servicios Informáticos Interactivos bajo la sección 47 U.S.C. 230.

“La empresa no será tratada como la editora, hablante o autora de ningún contenido o transacción generada por usuarios de terceros o agentes autónomos. Además, mantenemos ningún deber de monitorear la intención específica o las actividades ilícitas de los usuarios o usuarios de usuarios. El Miembro y el Gerente están exentos de responsabilidad por eventos de ‘Conocimiento Asimétrico’ donde los agentes de IA, usuarios o usuarios de usuarios actúan fuera de la visibilidad directa o programación del Gerente.”

La empresa mencionó que solo sirve como proveedora de herramientas e infraestructura neutrales, destacando que su responsabilidad está estrictamente limitada a la operabilidad técnica de la pila. En su declaración, la empresa señala que la Sección 230 de la Ley de Decencia en las Comunicaciones la exime de cualquier falta. Sin embargo, actualmente hay un esfuerzo bipartidista en el Congreso para revocar la ley, lo que obligaría a las plataformas a ser responsables del contenido publicado en o conectado a sus sitios web.

Este desarrollo en Arizona coincide con un momento en el que el chatbot Grok ha sido objeto de fuerte crítica por parte de la opinión pública mundial. Gobiernos de todo el país acusaron a la plataforma de no mantener las medidas de seguridad necesarias para controlar las actividades del chatbot, lo que le permitió crear deepfakes generados por IA con imágenes explícitas de mujeres y niños. Mientras que algunos países han emitido advertencias a la plataforma, otros han suspendido temporalmente su acceso hasta que se realicen las correcciones necesarias.