Clips de IA falsos de venezolanos celebrando la salida de Maduro se vuelven virales en X y TikTok

Videos hechos por IA que muestran celebraciones falsas en Venezuela han explotado en línea después de que Nicolás Maduro fuera destituido del poder.

Estos clips, completamente fabricados utilizando inteligencia artificial, muestran grandes multitudes vitoreando, agitando banderas y agradeciendo al presidente Donald Trump y al ejército de EE. UU. El problema es que nada de esto ocurrió realmente.

Uno de los primeros y más virales fue publicado por una cuenta de X llamada Wall Street Apes, que tiene más de 1 millón de seguidores, y muestra a ciudadanos venezolanos llorando, abrazándose y elogiando a EE. UU. por haber derrocado a Maduro.

La publicación fue marcada por las notas de la comunidad, pero solo después de que 38,000 personas la reenviaran y 5.6 millones la hubieran visto, e incluso apareció en el feed de Elon Musk antes de que el usuario la eliminara. La nota añadió esta advertencia:

“Este video está generado por IA y se presenta actualmente como una declaración factual destinada a engañar a las personas.”

Las plataformas de IA ayudan a difundir videos falsos sobre Venezuela

Los verificadores de hechos de BBC y AFP rastrearon el video original a una cuenta de TikTok llamada @curiousmindusa, que publica clips generados por IA regularmente.

Aunque no pudimos encontrar la fuente exacta, ambas redacciones confirmaron que esa era la versión más antigua. El clip apareció después de una gran operación militar el 3 de enero, cuando las fuerzas estadounidenses lanzaron ataques aéreos y una incursión terrestre que condujeron a la detención de Maduro.

Las imágenes de él bajo custodia ya se estaban difundiendo en línea antes de que el gobierno emitiera una oficial, y esas primeras también eran falsas.

AFP también marcó más contenido engañoso. Un clip, que parecía una fiesta callejera en Caracas, resultó ser un video antiguo de Chile después de que se pasó por alto como si los venezolanos estuvieran celebrando en las calles.

Esta no es la primera vez que la IA se ha utilizado para distorsionar la realidad durante una noticia de última hora, y definitivamente no será la última. Patrones similares aparecieron durante los conflictos de Rusia-Ucrania e Israel-Palestina. Pero la velocidad y el realismo de las falsificaciones de Venezuela son lo que las hace diferentes esta vez.

Plataformas como Sora y Midjourney han hecho que sea increíblemente fácil generar clips falsos en minutos, y la gente sigue cayendo en la trampa.

Las plataformas sociales luchan por mantenerse al día con el contenido falso

Los creadores detrás de estos clips a menudo intentan impulsar ciertas narrativas políticas o simplemente crear caos en línea. Y está funcionando. El año pasado, un video hecho por IA mostró mujeres falsas llorando por perder sus beneficios de SNAP durante un cierre del gobierno de EE. UU. Ese clip fue transmitido por Fox News como real, hasta que tuvieron que retirarlo.

Todo esto ha desencadenado demandas más fuertes para que las plataformas sociales etiqueten el contenido generado por IA de manera más clara. India incluso propuso una ley que requiere etiquetas en el contenido de IA, y España aprobó multas de €35 millones por cualquier contenido sin etiquetar.

Algunos sitios están intentando ponerse al día. TikTok y Meta dicen que han creado herramientas para detectar y etiquetar videos de IA. CNBC encontró algunos clips falsos de Venezuela en TikTok que estaban marcados correctamente. Pero los resultados son mixtos.

X, por otro lado, se basa principalmente en su sistema de notas de la comunidad. Los críticos dicen que no funciona lo suficientemente rápido. Para cuando aparece la advertencia de IA, millones de personas ya han visto y compartido el contenido.

Incluso los jefes de las plataformas están sonando la alarma. Adam Mosseri, quien dirige Instagram y Threads, publicó: “Todas las principales plataformas harán un buen trabajo identificando el contenido de IA, pero lo harán peor con el tiempo a medida que la IA mejore en imitar la realidad.”

Adam añadió: “Ya hay un número creciente de personas que creen, como yo, que será más práctico identificar digitalmente los medios reales que los falsos.”