Dilema del deepfake: Los medios manipulados generados por IA generan alarmas
- Los deepfakes generados por inteligencia artificial generan alarma antes de las elecciones en EE. UU., preocupando a figuras públicas y legisladores.
- Taylor Swift y otras figuras de alto perfil fueron blanco de contenido falso, lo que destaca la necesidad de regulaciones más estrictas.
- El especialista en IA Henry Ajder insta a una acción colectiva para combatir la facilidad con la que se crean y comparten medios manipulados, mientras aumentan las preocupaciones sobre las noticias generadas por IA.
El contenido deepfake generado por inteligencia artificial ha surgido como motivo de preocupación a medida que se acerca el ciclo electoral de Estados Unidos. Estas piezas de medios manipulados, que van desde imágenes explícitas fabricadas hasta voces alteradas de figuras prominentes, se han viralizado en las plataformas de redes sociales, generando aprensión entre legisladores, figuras públicas y el público en general.
Incidente de Swift: Imágenes deepfake de Taylor Swift
Un incidente notable implica la creación y difusión de imágenes explícitas falsas de la cantante Taylor Swift. Estas imágenes obtuvieron millones de vistas en la plataforma de redes sociales X (anteriormente conocida como Twitter) antes de ser eliminadas. A pesar de tener reglas contra este tipo de contenido, la plataforma, propiedad de Elon Musk, enfrentó desafíos para eliminar las imágenes deepfake de manera oportuna.
Las preocupaciones en torno a los deepfakes han provocado reacciones de figuras prominentes, incluida la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre. Expresando su alarma, Jean-Pierre declaró: «Estamos alarmados por los informes sobre la circulación de imágenes falsas». Este incidente subraya el daño potencial que los medios manipulados pueden infligir, planteando preguntas sobre la necesidad de regulaciones más estrictas.
La base de fans de Swift expresó indignación tras el incidente, lo que llevó a que la frase «proteger a Taylor Swift» se volviera tendencia en la plataforma. El episodio sirve como recordatorio de la carga emocional que el contenido deepfake puede imponer a los individuos y de la importancia de salvaguardar las identidades de las figuras públicas.
Advertencia de especialista en IA
Henry Ajder, especialista en IA que monitorea de cerca los desarrollos en inteligencia artificial y tecnología deepfake, destacó la facilidad con la que se puede crear contenido deepfake perturbador. Hizo hincapié en que este problema es de especial preocupación para mujeres y niñas, independientemente de su ubicación geográfica o estatus social.
Ajder instó a las empresas y reguladores a tomar medidas decisivas para frenar la propagación de medios manipulados. Instó a las partes interesadas a «hacer un mejor trabajo creando fricción desde que alguien forma la idea hasta crear y compartir el contenido». Esto enfatiza la necesidad de esfuerzos colectivos para abordar eficazmente esta creciente amenaza.
Los recientes incidentes de deepfake no son casos aislados. En el último año, estudiantes de una escuela en Nueva Jersey y un desarrollador utilizaron IA para generar y compartir imágenes falsas y desinformación. Estos casos subrayan el posible mal uso de la tecnología de IA y la urgente necesidad de salvaguardas contra sus aplicaciones dañinas.
Incluso celebridades de alto perfil como la actriz Scarlett Johansson han caído víctimas de la tecnología deepfake. Johansson presentó una demanda contra un generador de IA por el uso no autorizado de su imagen, lo que destaca los desafíos legales en torno al contenido deepfake.
Noticias generadas por IA: Una preocupación creciente
Más allá de los casos individuales, las preocupaciones sobre el impacto de las noticias generadas por IA están aumentando. Informes recientes han revelado la existencia de 49 sitios web de noticias generados por IA, planteando preguntas sobre el potencial de la tecnología para mejorar las técnicas fraudulentas en la difusión de noticias. Esto subraya aún más la necesidad de vigilancia y supervisión en la era de la IA.
A medida que se acerca el ciclo electoral de EE. UU., los deepfakes generados por inteligencia artificial se han convertido en una fuente de preocupación generalizada. La facilidad con la que se pueden crear y difundir medios manipulados ha alarmado a figuras públicas, legisladores y al público. Los incidentes recientes que involucran a Taylor Swift, Joe Biden y otros sirven como un recordatorio nítido del daño potencial que los deepfakes pueden infligir a individuos y a la sociedad.
Además, los incidentes históricos y el mal uso de la IA en la generación de contenido falso subrayan la necesidad de medidas proactivas para salvaguardarse contra sus aplicaciones dañinas. A medida que continúa el debate sobre las noticias generadas por IA, está claro que la vigilancia y la regulación son esenciales para proteger a las personas y la integridad de la información en un mundo cada vez más digitalizado.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Brenda Kanana
Brenda cuenta con más de 4 años de experiencia especializada en criptomonedas, inteligencia artificial y tecnologías emergentes. Ha trabajado en Zycrypto, Blockchain Reporter y The Coin Republic, y ahora tiene a Cryptopolitan como su hogar. Su licenciatura en Sociología de la Universidad Técnica de Mombasa la mantiene alineada con las necesidades de sus lectores.
