Un juez federal permite a Minnesota aplicar la prohibición de la "desnudez" por IA a pesar de la objeción de xAI

Un juez federal ha ratificado la prohibición de Minnesota sobre las herramientas de inteligencia artificial que transforman fotografías de personas reales en imágenes y contenido multimedia con desnudos, rechazando la solicitud de xAI, la empresa de Elon Musk, para suspender la ley mientras se resuelve su demanda por violación de la libertad de expresión. La decisión permite a los reguladores comenzar a imponer multas de hasta 500.000 dólares por imagen de inmediato.

El juez de distrito estadounidense Donovan Frank denegó la solicitud de xAI de una orden judicial preliminar, que habría suspendido la ley hasta la conclusión del litigio. El juez Donovan consideró lo que denominó el "balance de perjuicios" y concluyó que "el interés público se inclina claramente a favor del Estado", según el memorándum citado por CBS Minnesota.

El juez describió una “ley civil destinada a proteger al público del daño indiscutible derivado de la tecnología de desnudez por IA”, y afirmó que la ley se aprobó “democráticamente y casi por unanimidad”. Reconoció con franqueza que las cuestiones subyacentes relativas a la Primera Enmienda seguían siendo complejas, debido al contexto de una nueva tecnología, y expresó su confianza en que el caso se resolvería a medida que avanzara. Por ahora, sin embargo, la prohibición se mantiene vigente.

La presentación de documentos a última hora debilita el caso de xAI

La legislatura de Minnesota aprobó el proyecto de ley esta primavera y el gobernador lo firmó. Sin embargo, xAI no presentó la demanda hasta el 27 de julio, aproximadamente tres meses después y pocos días antes de la fecha de inicio prevista para el 1 de agosto. La empresa de IA solicitó una orden de restricción temporal el 29 de julio, la cual el juez Frank rechazó el 31 de julio.

Esta laguna se convirtió en una prueba más en contra de xAI. «Si xAI realmente temiera un daño irreparable, el Tribunal no duda de que habría actuado con mayor rapidez para presentar esta demanda y solicitar una medida cautelar», escribió Frank.

En otras palabras, una empresa que se esfuerza por evitar una catástrofe no espera hasta la víspera de la aplicación de la ley para pedir ayuda a un tribunal.

Alcance de la ley y los costos

La ley, conocida como HF 1606, es la primera de su tipo en todo el país. Prohíbe a los proveedores permitir que los usuarios generen imágenes realistas que añadan partes íntimas del cuerpo ausentes en una fotografía original de una personadent, y también les prohíbe producir dichas imágenes en nombre de cualquier usuario.

Cada infracción conlleva una multa civil de hasta 500.000 dólares, y las personas que aparecen en estas imágenes pueden presentar demandas individuales por daños y perjuicios.

La Ley Federal de Eliminación de Contenidos Falsos (Take It Down Act) y la propuesta de Texas para 2025 sobre los deepfakes dependen de si el creador sabía que la imagen no era consensuada. Minnesota ha eliminado por completo ese requisito, por lo que un proveedor puede ser responsable incluso sin saber que se creó una imagen de desnudo.

Esta disposición del estatuto es precisamente el punto al que se opone xAI. El proyecto de ley fue aprobado en la Cámara de Representantes por 132 votos a favor y 1 en contra, y en el Senado por 65 votos a favor y ninguno en contra, tras las denuncias de un hombre que utilizó fotos de redes sociales para fabricar imágenes sexuales de más de 80 mujeres que conocía.

La escala detrás de Grok Imagine

El fiscal general Keith Ellison, quien defendió la ley promulgada, declaró que el fallo representa una victoria para losdentde Minnesota. "Me enorgullece enormemente defender esta ley y, con ella, la dignidad de los habitantes de Minnesota", afirmó, y agregó que la ley continúa impidiendo que productos como Grok Imagine de xAI generen imágenes sexualizadas.

Según un informe citado en el fallo, Grok produjo alrededor de 3 millones de imágenes sexualizadas en los 11 días posteriores al lanzamiento de una nueva función de edición de imágenes, incluidas unas 23 000 que parecían representar a niños. Cryptopolitan previamente informado que xAI, en defensa de su historial, declaró haber suspendido 52 222 cuentas este año y haber presentado 73 604 denuncias ante el Centro Nacional para Niños Desaparecidos y Explotados.

Los abogados de xAI han notificado que solicitarán a la Corte de Apelaciones del Octavo Circuito que revise la denegación de la medida cautelar. En alegatos anteriores, la empresa propuso la suspensión de ciertas funciones para los usuarios de Minnesota en lugar de arriesgarse a recibir multas.