Louisiana está lista para implementar una nueva ley el 1 de agosto que hará que la producción y posesión de deepfakes que representen el abuso sexual de niños sea un delito penal. Promulgado por el gobernador John Bel Edwards, el proyecto de ley SB175 de Luisiana impone sanciones severas por crear, distribuir o poseer imágenes falsas ilegales que involucren a menores. Los infractores podrían enfrentar una sentencia de prisión obligatoria de cinco a 20 años, una multa de hasta $10,000 o ambas.
Louisiana condenará a los infractores a 20 años y una multa de $10,000
Deepfakes, que son videos generados por IA que manipulan y fabrican personas, lugares y eventos, plantean desafíos importantes para la seguridad cibernética y la aplicación de la ley. Los avances en IA han hecho que las falsificaciones profundas sean cada vez más difíciles de detectar, lo que enfatiza la necesidad de medidas legales para combatir su uso indebido. Luisiana, que ocupa un lugar bajo en bienestar infantil y alto en pobreza, se une a otros estados de EE. UU. como California, Texas y Virginia para regular o prohibir las falsificaciones profundas.
Además, SB175 incluye disposiciones dirigidas a plataformas en línea y sitios que albergan "pornografía de venganza". Establece que cualquier persona que a sabiendas anuncie, distribuya o venda falsificaciones sexuales profundas sin consentimiento o que involucre a menores podría enfrentar una pena de prisión obligatoria de 10 a 30 años, una multa de hasta $ 50,000, o ambas. En particular, los legisladores de Luisiana se aseguraron de que cualquier sentencia emitida en virtud de esta nueva ley implicaría "trabajos forzados".
La urgencia de abordar las falsificaciones profundas y su daño potencial es dent . En mayo, deepfakes que representaban a niños víctimas de asesinatos circularon en las redes sociales y ganaron atención viral después de subirse a TikTok. Entre el contenido inquietante se encontraba una recreación generada por IA de Royalty Marie Floyd, cuya abuela enfrentó cargos de asesinato en 2018. Destacando las implicaciones más amplias, el Secretario General de la ONU, António Guterres, advirtió sobre el uso de IA y falsificaciones profundas en las redes sociales para alimentar el odio y la violencia. en zonas de conflicto.
Luchar contra el uso indebido de deepfake y garantizar la rendición de cuentas
La creciente sofisticación de las falsificaciones profundas plantea preocupaciones sobre la erosión de la confianza en el contenido visual. Marko Jak, cofundador y director ejecutivo de Secta Labs, con sede en Austin, enfatizó que la sociedad está entrando en una era en la que la autenticidad visual ya no se puede dar por sentada. Si bien los deepfakes actuales a menudo son reconocibles debido a sus imperfecciones, el avance de la tecnología de inteligencia artificial plantea un desafío futuro para detectar deepfakes aún más convincentes.
Los organismos encargados de hacer cumplir la ley han estado haciendo sonar la alarma sobre los delincuentes que explotan los deepfakes para estafas y extorsiones. La Oficina Federal de Investigaciones de EE. UU. informó recientemente que recibió numerosos casos que involucraban a víctimas, incluidos menores, cuyas fotos y videos se usaron maliciosamente en contenido explícito. Reconociendo el mal uso potencial de la tecnología de IA, Meta, la compañía detrás de Voicebox, su plataforma de voz generada por IA, decidió no lanzar la tecnología al público. Meta destacó la importancia de lograr el equilibrio adecuado entre apertura y responsabilidad en el campo de la IA.
La introducción de la legislación deepfake de Luisiana refleja el creciente reconocimiento de las graves amenazas que plantean estos medios manipulados. Al criminalizar la producción y posesión de deepfakes que involucran abuso sexual infantil, el estado tiene como objetivo proteger a los menores de la explotación y disuadir a quienes buscan propagar contenido dañino. Si bien los esfuerzos legislativos son cruciales, los avances continuos en la tecnología de inteligencia artificial y la colaboración entre las empresas de tecnología, las fuerzas del orden público y los legisladores serán vitales para combatir de manera efectiva los delitos relacionados con las falsificaciones profundas.
A medida que la tecnología evoluciona, la sociedad debe permanecer alerta para adaptar los marcos legales y desplegar mecanismos de detección avanzados para adelantarse a los actores malintencionados. La lucha contra las falsificaciones profundas exige un enfoque multifacético que abarque medidas legales, conciencia pública e innovación continua en tecnologías de detección impulsadas por IA. Al tomar medidas proactivas, Luisiana y otras jurisdicciones buscan proteger a las personas vulnerables y mantener la confianza en el ámbito digital.
