Legisladores presentan proyecto de ley bipartidista para combatir los Deepfakes de IA

Representantes de Iowa y Massachusetts han presentado un proyecto de ley bipartidista para abordar la creciente amenaza de «deepfakes» sexualmente explícitos en las plataformas en línea. La legislación está liderada por la representante republicana de EE. UU. Ashley Hinson de Iowa y la representante demócrata de EE. UU. Jake Auchincloss de Massachusetts. Busca hacer responsables a las grandes empresas tecnológicas por no eliminar este contenido dañino.

La ley propuesta, la Ley de Protección de la Intimidad, busca enmendar la Sección 230 de la Ley de Decencia en las Comunicaciones de 1996, que actualmente protege a las plataformas en línea de la responsabilidad legal por el contenido generado por los usuarios. Si se aprueba, Facebook, X (anteriormente Twitter) y YouTube podrían perder su inmunidad si no toman medidas contra la pornografía deepfake en sus sitios.

El nuevo proyecto de ley exige a las plataformas tecnológicas abordar el problema de los deepfakes

La legislación aborda el creciente mal uso de la tecnología deepfake impulsada por inteligencia artificial que crea imágenes y videos realistas pero falsos. Estos deepfakes a menudo muestran a personas en situaciones comprometedoras o sexuales al fusionar los rostros de las víctimas con cuerpos en videos pornográficos. El FBI ha visto un aumento en los esquemas de «sextorsión» deepfake donde las víctimas son chantajeadas para pagar un rescate para detener la difusión de imágenes explícitas.

Bajo el proyecto de ley, las plataformas tecnológicas deben crear un «proceso razonable» para prevenir violaciones de la privacidad, lo que incluye tener formas claras y fáciles de informar, investigar y eliminar contenido dañino dentro de las 24 horas, y registro de datos para que las víctimas tengan evidencia disponible para casos judiciales.

Los legisladores estatales y federales toman medidas contra los Deepfakes

Iowa ya ha actuado a nivel estatal para abordar este problema. A principios de este año, los legisladores estatales aprobaron leyes que hacen ilegal la difusión de imágenes pornográficas alteradas digitalmente, que conllevan penas de hasta dos años de prisión más multas, mientras que aquellos mayores de dieciocho años declarados culpables estarán obligados a registrarse como delincuentes sexuales.

A nivel federal, la legislación aprobada recientemente permite a las víctimas demandar a los creadores, compartidores y receptores de deepfakes sexualmente explícitos no consensuados. Otros proyectos de ley destinados a proteger a los menores de actividades en línea peligrosas requieren que las empresas de redes sociales proporcionen opciones para limitar la comunicación entre niños y desactivar funciones que permiten un uso prolongado.

Aunque hay un impulso hacia regulaciones más estrictas, las medidas propuestas plantean preocupaciones relacionadas con la Primera Enmienda. Organizaciones de derechos civiles como la Unión Estadounidense por las Libertades Civiles (ACLU) argumentan que KOSA podría limitar el acceso de los menores a recursos importantes o restringir la libertad de expresión. La ACLU advierte que el proyecto de ley también podría obstaculizar la capacidad de los adultos para expresarse libremente en línea o acceder a diversas perspectivas.

En respuesta, Hinson enfatizó que su proyecto de ley busca un equilibrio entre la protección de las personas contra los deepfakes y la preservación de los derechos de la Primera Enmienda. Expresó su disposición a trabajar con los legisladores para garantizar que la legislación no infrinja la libertad de expresión, pero aborde eficazmente el problema.