Los padres exigen acción contra la proliferación de imágenes desnudas generadas por IA
- Las imágenes desnudas generadas por IA de adolescentes que circulan en las escuelas impulsan a padres y legisladores a exigir protecciones más sólidas contra los deepfakes.
- Más de 143.000 nuevos videos deepfake publicados en línea este año, lo que genera preocupaciones sobre la creciente prevalencia de contenido explícito generado por IA.
- Los defensores instan a una regulación federal para ofrecer protecciones uniformes y enviar un mensaje firme a los responsables, mientras las familias afectadas buscan soluciones.
En una revelación escalofriante, una madre y su hija de 14 años están liderando una campaña para obtener protecciones mejoradas después de que imágenes desnudas generadas por IA de la adolescente y sus compañeros de clase circularan dentro de una escuela secundaria en Nueva Jersey. Simultáneamente, al otro lado del país, los funcionarios están investigando un incidente similar que involucra a un adolescente que utilizó inteligencia artificial para crear y distribuir imágenes explícitas de estudiantes en las afueras de Seattle, Washington.
Estos casos perturbadores destacan la urgente necesidad de salvaguardas contra la amenaza creciente de material explícito generado por IA, que apunta particularmente a mujeres y niños. La proliferación de este contenido ha alcanzado niveles sin precedentes, con más de 143.000 nuevos videos deepfake publicados en línea solo este año, según un análisis compartido con The Associated Press por la investigadora independiente Genevieve Oh.
La creciente amenaza de imágenes desnudas generadas por IA
El incidente en Westfield, Nueva Jersey, se desarrolló este verano pero llamó la atención de la escuela el 20 de octubre. Imágenes generadas por IA, utilizando los rostros de estudiantes femeninas, circularon en la aplicación de redes sociales Snapchat entre un grupo de amigos. Las familias afectadas, desesperadas por soluciones, ahora instan a los legisladores a implementar salvaguardas robustas contra la manipulación de las imágenes de las víctimas a través de modelos de IA y varias plataformas que publicitan abiertamente sus servicios.
La crisis no se limita a Nueva Jersey. En las afueras de Seattle, un adolescente supuestamente empleó inteligencia artificial para crear y distribuir imágenes explícitas de compañeros de estudio. Esta ola de incidentes ha llevado a familias afectadas, defensores y expertos legales a pedir una regulación federal que pueda establecer protecciones uniformes en todo el país. Tales medidas no solo salvaguardarían a las víctimas, sino que también enviarían un mensaje resonante a los posibles perpetradores.
Buscando remedios legales
Aunque varios estados, incluidos Texas, Minnesota y Nueva York, han aprobado leyes que tipifican como delito la pornografía deepfake no consensuada, el alcance y la eficacia de estas legislaciones varían. Estados como California e Illinois permiten a las víctimas demandar a los autores por daños y perjuicios en los tribunales civiles. Actualmente, Nueva Jersey está considerando su propia legislación para prohibir la pornografía deepfake e imponer sanciones, incluidas penas de prisión o multas, a quienes la difundan.
La senadora estatal Kristin Corrado presentó un proyecto de ley en Nueva Jersey para abordar la pornografía deepfake, haciendo hincapié en la necesidad de una ley federal que proporcione protecciones uniformes en todo el país. Los defensores se están movilizando a favor de una ley federal que pueda sancionar a las organizaciones que obtienen beneficios de aplicaciones que facilitan la creación de deepfakes, reforzando los esfuerzos de la orden ejecutiva del presidente Joe Biden, que tiene como objetivo combatir el uso de la IA generativa para contenido explícito.
El camino por delante
A medida que el foco se intensifica en este alarmante problema, la pregunta permanece: ¿Será la regulación federal la clave para combatir la creciente marea de contenido explícito generado por IA? Mientras algunos legisladores impulsan divulgaciones sobre contenido generado por IA y legislación para hacer ilegal compartir imágenes de pornografía deepfake, se expresan preocupaciones sobre una posible infracción a la Primera Enmienda por entidades como la Unión Americana de Libertades Civiles y la Fundación Electronic Frontier. La batalla contra el contenido explícito generado por IA continúa, con familias afectadas y defensores abogando por la protección de individuos vulnerables en un panorama digital en constante evolución. ¿Cómo puede la legislación encontrar el equilibrio adecuado entre salvaguardar a los individuos y preservar la libertad de expresión frente a esta amenaza tecnológica?
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
