Microsoft insta al Congreso de EE. UU. a abordar los deepfakes generados por IA

Microsoft ha instado al Congreso a aprobar una nueva legislación contra los deepfakes generados por IA. Brad Smith, vicepresidente ydent de Microsoft, ha enfatizado la urgencia de que los legisladores aborden la creciente amenaza de la tecnología deepfake. 

En una publicación reciente de su blog, Smith destacó la importancia de adaptar las leyes para abordar el fraude de deepfakes y prevenir su explotación. Según Smith, debería existir una ley que permita sancionar las estafas y fraudes relacionados con deepfakes. 

Microsoft propone un estatuto federal contra el fraude deepfake

Según el informe de Microsoft, se pueden tomar diversas medidas legales para prevenir el uso indebido de la tecnología deepfake. Una de las sugerencias es crear un estatuto federal contra el fraude deepfake. Esta nueva ley abordará las dimensiones civiles y penales del fraude de contenido sintético y podría incluir las siguientes medidas: cargos penales, embargo civil y medidas cautelares. 

El informe también respalda el requisito de ladentde contenido sintético. Mediante la regulación del uso de herramientas avanzadas de procedencia, el público podría así apreciar el origen del contenido que recibe en línea. Esto es importante para la credibilidad de la información digital y para frenar la difusión de noticias falsas. 

El Congreso debería exigir a los proveedores de sistemas de IA que utilicen herramientas de procedencia de vanguardia para etiquetar el contenido sintético. Esto es esencial para generar confianza en el ecosistema de la información y ayudará al público a comprender mejor si el contenido es generado por IA o manipulado

Brad Smith

Además, Microsoft sugiere modificar las leyes actuales sobre explotación infantil e imágenes explícitas no consentidas para que cubran las imágenes generadas por IA. Esto garantizaría que los marcos legales se ajusten a los avances tecnológicos para proteger también a este grupo vulnerable. 

El Senado de Estados Unidos ha tomado medidas recientemente al respecto al aprobar un proyecto de ley dirigido a los deepfakes sexualmente explícitos. Esta nueva ley permite a las víctimas de deepfakes sexualmente explícitos no consensuados de IA demandar a los creadores del contenido. 

La FCC dice “no” a las llamadas automáticas de voz con inteligencia artificial

Microsoft también ha respondido al uso indebido de la IA y ha reforzado las medidas de seguridad de sus productos. Recientemente, la compañía mejoró el creador de imágenes Designer AI tras una vulnerabilidad que se había explotado para producir imágenes obscenas de celebridades. Smith afirmó que el sector privado debe implementar medidas para garantizar que la IA no se use indebidamente, y que las empresas tecnológicas deben garantizar que los usuarios no sufran daños. 

La FCC ya ha actuado contra el uso indebido de la IA al prohibir el uso de voz de IA en las llamadas automáticas. Aun así, la IA generativa está mejorando cada vez más en la generación de audio, imágenes y vídeos falsos. Este problema se ha visto agravado recientemente por un vídeo deepfake de ladent estadounidense Kamala Harris, difundido en redes sociales y que ejemplificó el creciente peligro de la tecnología deepfake.

Otras organizaciones sin fines de lucro, como el Centro para la Democracia y la Tecnología (CDT), también participan en la lucha contra el abuso de las deepfakes. Como señaló Tim Harper, analista principal de políticas del CDT, el año 2024 marca un punto de inflexión crucial para la IA en las elecciones, y la gente debe prepararse para ello. La actual resistencia a las deepfakes es un primer paso de lo que podría ser una luchatraccontra la manipulación tecnológica.