xAI se enfrenta a Minnesota por una ley que apunta a imágenes sexuales generadas por IA
- Minnesota insta a un juez federal a rechazar el intento de xAI de bloquear la HF 1606, argumentando que Grok Imagine es una herramienta tecnológica y no un discurso protegido.
- xAI afirma que la ley es demasiado amplia porque puede castigar a los proveedores incluso cuando las imágenes son consensuadas, satíricas o creadas sin intención dañina.
- La audiencia del miércoles podría convertirse en una prueba temprana importante sobre si los estados pueden imponer responsabilidad directa a las empresas de IA por las imágenes sexuales generadas.
El Fiscal General de Minnesota, Keith Ellison, presentó un escrito el viernes oponiéndose al intento de xAI de bloquear la HF 1606, la primera ley de su tipo en el estado que restringe las herramientas de IA que generan imágenes sexuales de personas identificables, según Decrypt.
Ellison argumentó que es poco probable que la empresa tenga éxito en su reclamo constitucional y no ha demostrado que la aplicación de la ley cause un daño irreparable.
Con Grok Imagine, X.AI ha creado un mercado sin precedentes para la violencia sexual digital, y el estado sería indefenso desde el principio a menos que pudiera dirigir sus leyes contra la tecnología en sí misma.
– Fiscal General Keith Ellison
El argumento de Minnesota es que Grok Imagine es una herramienta y no un discurso protegido, lo que lo excluiría de las consideraciones presentadas por xAI para que el juez las examine. Habrá una audiencia sobre el asunto por parte de un juez federal el miércoles.
La ley de Minnesota apunta a los proveedores de IA incluso sin conocimiento o intención
La HF 1606 prohíbe a una empresa permitir que los usuarios generen imágenes realistas que muestren partes íntimas ausentes en la fotografía original de una persona identificable, y producir dicha imagen en nombre de un usuario. Las violaciones conllevan multas de hasta $500.000 por imagen. Las personas representadas pueden demandar por separado.
El estatuto no requiere que una empresa conociera la imagen o la hubiera intencionado. La mayoría de las leyes sobre deepfakes, incluida la ley federal Take It Down Act, penalizan a quien crea o comparte la imagen.
Texas contactó a los operadores en 2025, pero solo cuando el propietario era consciente de la falta de consentimiento o no respondía a un aviso de retirada. Minnesota eliminó el elemento de conocimiento, y es esta disposición la que está siendo atacada por xAI el miércoles.
La Cámara aprobó el proyecto de ley 132-1 y el Senado 65-0, tras informes de un hombre que utilizó fotos de redes sociales para crear imágenes sexuales de más de 80 mujeres que conocía. Fue firmada en abril. xAI demandó el 27 de julio y solicitó una orden restrictiva temporal el 29 de julio.
El 31 de julio, el juez Donovan Frank rechazó la petición, señalando que la empresa presentó la solicitud casi tres meses después de la firma y tres días antes de la fecha de entrada en vigor, lo que indica que “el daño no es inmediato”. La ley entró en vigor el 1 de agosto.
xAI dice que las reglas de Minnesota podrían criminalizar la sátira y las imágenes consensuadas
La demanda no cuestiona el interés del estado en prevenir imágenes no consentidas, sino que argumenta que el estatuto se extiende mucho más allá de ello, y el argumento gira en torno a una definición. Según xAI, el estado de Minnesota basó su definición de parte íntima en una legislación destinada a crímenes que implican contacto corporal, lo que cubre los muslos internos y los senos, incluyendo así trajes de baño y sátira.
La página 19 del documento contiene una imagen generada por IA que Trump compartió en Truth Social el 1 de mayo, en la que se le ve con JD Vance, Marco Rubio y el Secretario del Interior Doug Burgum sin camisa, junto a una mujer desconocida, en el estanque reflectante del Monumento a Lincoln, una broma sobre el costo de las reparaciones del estanque. El pecho de cada hombre está representado donde antes no lo estaba, argumenta xAI, lo que hace que la imagen sea ilegal en Minnesota.
“Incluso si los sujetos dieron su consentimiento, generaron las imágenes ellos mismos o nunca las compartieron, no hay un puerto seguro para los esfuerzos de buena fe por parte del proveedor de herramientas creativas de IA de propósito general”, dijo la empresa.
Según sus propias matemáticas, diez de estas imágenes cuestan $5 millones y cien mil alcanzarían los $50 mil millones.
El historial de aplicación de Grok destaca la escala del problema de abuso
La empresa ha ofrecido su historial de cumplimiento como evidencia de buena fe. Como Cryptopolitan informó anteriormente, xAI dijo en un informe de julio que suspendió 52.222 cuentas este año y envió 73.604 informes al Centro Nacional para Niños Desaparecidos y Explotados, produciendo al menos 244 arrestos en 2026.
Esas cifras también son una medida de escala. Según el Centro para Contrarrestar el Odio Digital, en el período de 11 días entre el 29 de diciembre y el 8 de enero, después del respaldo de Musk a la funcionalidad de edición de la aplicación, Grok creó aproximadamente 3 millones de imágenes sexualmente explícitas, incluidas unas 23.000 que parecían representar a niños.
California abrió una investigación el 14 de enero y envió una orden de cese y desistimiento dos días después. Treinta y cinco fiscales generales firmaron una demanda conjunta el 23 de enero. Según Ellison, cinco niños han presentado una demanda colectiva, y dos familias de Arkansas han presentado una demanda en el tribunal federal.
La Comisión Europea lanzó una investigación el 27 de enero, y el chatbot ha sido prohibido en Malasia e Indonesia.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Micah Abiodun
Micah Abiodun aprovecha su Maestría en Ingeniería y Gestión Ambiental (MSc) de la Universidad Tecnológica de Tallinn (TalTech) para perfeccionar noticias sobre contenido y predicciones de precios en Cryptopolitan. Ahora en su séptimo año en el espacio de medios cripto, cubre las principales criptomonedas, altcoins, DeFi, stablecoins, tendencias macroeconómicas y tecnologías emergentes.
