Tres mujeres de Arizona demandaron a varias personas y empresas, alegando que sus imágenes fueron extraídas de sus redes sociales y alimentadas con modelos de inteligencia artificial (IA) para generar deepfakes. Afirmaron que los sospechosos involucrados utilizaron los modelos para generar sus imágenes explícitas y lucrarse con ellas.
La demanda, presentada ante el Tribunal Superior del Condado de Maricopa, en Arizona, se dirige contra una cuenta de Instagram que ha publicado múltiples videos de mujeres, promocionándolas como modelos de IA para obtener ingresos. Las demandantes, cuyos nombres se mantienen en reserva por motivos de privacidad, señalaron que algunas de las imágenes se crearon utilizando sus fotos de redes sociales sin su consentimiento previo. Una de las víctimas mencionó que ahora la miran de una manera que no le sienta bien, simplemente por la circulación de las imágenes.
Mujeres de Arizona inician demanda por contenido generado por IA
La demanda incluye a tres acusados del condado de Maricopa, Arizona, entre ellos Beau Schultz, propietario de la cuenta de Instagram. También incluye a otros 50 John Doe y a varias empresas que supuestamente se crearon o utilizaron para gestionar el negocio. Los demandantes están representados por Nick Brand, de Donlon Group, y Cristina Pérez Hesano, de Pere Law Group.
Según Brand, los acusados, probablemente de Arizona, crearon planos para enseñar a otros hombres y niños a crear estos supuestos influencers de IA, que luego se desnudan a partir de imágenes completamente vestidas. Añadió que los acusados utilizan estos deepfakes generados para crear un sitio web pornográfico por suscripción donde intercambian mensajes eróticos con sus clientes. Brand señaló que el asunto es más amplio de lo que imaginaba antes de que le asignaran el caso.
En la demanda de Arizona, los demandados instruyeron a sus clientes a evitar usar influencers populares o conocidos y, en su lugar, a usar microinfluencers para reducir el riesgo de problemas legales. "No puedo creer lo ingenua que fui al ver lo que sufren las mujeres con los avances tecnológicos", dijo . Según una de las víctimas, solo una legislación estricta puede prevenir estos males y evitar que más mujeres sean víctimas de estafas similares.
La plataforma de pago niega haber actuado mal
Otra víctima mencionó que el público no debería poder usar inteligencia artificial para causar tantos estragos, señalando que quienes la usan atacan a la hermana, la madre, la amiga o la compañera de trabajo de alguien. Mientras tanto, una de las empresas mencionadas en la demanda, Phyziro, una plataforma de procesamiento de pagos, afirmó que las acusaciones son sustancialmente falsas. La empresa afirmó ser un proveedor de servicios informáticos interactivos (SCI) según el artículo 47 del Código de los Estados Unidos, artículo 230.
La empresa no será considerada editora, portavoz ni autora de ningún contenido o transacción generados por usuarios externos o agentes autónomos. Además, no tenemos la obligación de supervisar las intenciones específicas posteriores ni las actividades ilícitas de los usuarios o de los usuarios de los usuarios. El Miembro y el Gestor quedan exentos de responsabilidad por eventos de "Conocimiento Asimétrico" en los que los agentes de IA, los usuarios o los usuarios de los usuarios actúen fuera de la visibilidad o programación directa del Gestor
La empresa mencionó que solo actúa como proveedor de herramientas e infraestructura neutrales, y destacó que su responsabilidad se limita estrictamente a la operatividad técnica de la pila. En su declaración, la empresa señala que la Sección 230 de la Ley de Decencia en las Comunicaciones la exime de cualquier irregularidad. Sin embargo, actualmente existe una iniciativa bipartidista en el Congreso para revocar la ley, que obligaría a las plataformas a rendir cuentas por el contenido publicado o conectado a sus sitios web.
Este avance de Arizona también llega en un momento en que el chatbot Grok ha recibido fuertes críticas de la población mundial. Gobiernos de todo el país acusaron a la plataforma de no implementar medidas de seguridad para controlar las actividades del chatbot, lo que le llevó a crear deepfakes generados por IA con imágenes explícitas de mujeres y niños. Si bien algunos países han emitido advertencias a la plataforma, otros han suspendido temporalmente su acceso hasta que se solucione el problema.
