Daños basados en el género en la IA: Protección contra alteraciones no consentidas de imágenes
- La edición de imágenes con IA puede dañar a las personas al alterar su apariencia sin permiso, como le ocurrió a la diputada australiana Georgie Purcell.
- Los videos deepfakes sexualizados no consentidos, que afectan principalmente a mujeres, se están difundiendo rápidamente, lo que genera preocupaciones a nivel mundial.
- Se necesita cooperación global y medidas proactivas para combatir los efectos nocivos del contenido generado por IA y proteger los derechos y la seguridad de las personas.
La miembro del Parlamento australiano Georgie Purcell recientemente planteó preocupaciones sobre una imagen alterada digitalmente que distorsionaba su cuerpo y eliminaba partes de su ropa sin su consentimiento. Este incidente arroja luz sobre las posibles consecuencias sexistas y discriminatorias de las tecnologías de IA sin control.
Aunque a menudo se consideran simples en el uso cotidiano, las herramientas asistidas por IA pueden perpetuar inadvertidamente los sesgos sociales. Cuando se les instruye para editar fotografías, estas herramientas pueden realzar ciertos atributos aprobados socialmente, como la juventud y la sexualización, particularmente prevalentes en imágenes de mujeres.
Una preocupación significativa surge con la proliferación de contenido de deepfakes sexualizados, que afecta predominantemente a las mujeres. Los informes indican que una asombrosa proporción del 90-95% de los videos de deepfakes son pornografía no consentida, con alrededor del 90% que presenta a mujeres como víctimas. Se han presentado casos de creación y distribución no consentida de imágenes de deepfakes sexualizados a nivel mundial, impactando a individuos de diversos grupos demográficos, incluidas mujeres jóvenes y celebridades como Taylor Swift.
La necesidad de acción global
Si bien existen medidas legislativas en algunas regiones para abordar la distribución no consentida de deepfakes sexualizados, las leyes sobre su creación siguen siendo inconsistentes, particularmente en los Estados Unidos. La falta de regulaciones internacionales cohesivas subraya la necesidad de una acción global colectiva para combatir este problema de manera efectiva.
Los esfuerzos para detectar contenido generado por IA se ven desafiados por las tecnologías avanzadas y la creciente disponibilidad de aplicaciones que facilitan la creación de contenido sexualmente explícito. Sin embargo, culpar exclusivamente a la tecnología pasa por alto la responsabilidad de los desarrolladores de tecnología y las plataformas digitales de priorizar la seguridad y los derechos de los usuarios.
Australia ha dado pasos para liderar en este aspecto, con iniciativas como la Oficina del Comisionado de Seguridad Electrónica y leyes nacionales que mantienen a las plataformas digitales responsables de prevenir y eliminar contenido no consentido. Sin embargo, la colaboración global más amplia y las medidas proactivas son esenciales para mitigar eficazmente los daños de los deepfakes sexualizados no consentidos.
El uso sin control de la IA en la edición de imágenes y la proliferación de contenido de deepfakes sexualizados plantea desafíos significativos, que requieren marcos regulatorios integrales y acción global colectiva. Al priorizar la seguridad y los derechos de los usuarios en el desarrollo tecnológico y la aplicación, las sociedades pueden trabajar hacia la mitigación de los daños basados en el género asociados con los abusos habilitados por la IA.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
