Meta advierte sobre amenazas de IA rusas a medida que se acerca la elección de EE. UU.

Meta, en un reciente informe de seguridad, dice que Rusia está empleando herramientas de inteligencia artificial generativa (IA) para campañas de engaño en línea sobre las elecciones de EE. UU. El gigante tecnológico afirma que la mayoría de los esfuerzos fueron ineficaces, ya que frustró las campañas.

Según Meta, las estrategias de IA generativa han traído productividad y ganancias mínimas. Esto se debe a que la empresa pudo detectar y reprimir el comportamiento inauténtico coordinado (CIB) en su plataforma.

Meta identifica a Rusia como la fuente principal de campañas de influencia política

El Informe de Amenazas Adversarias de Meta para el segundo trimestre identificó que la mayoría de las campañas de CIB en sus plataformas, particularmente Facebook e Instagram, se originaron en Rusia. Desde 2017, el país ha sido responsable de 39 operaciones encubiertas, mientras que Irán y China ocupan el segundo y tercer lugar con 30 y 11 operaciones, respectivamente.

Estas campañas rusas dependían en gran medida de cuentas y páginas falsas, siendo una táctica central adquirir múltiples cuentas. En términos de contenido, todas parecen haber estado propagando el mismo mensaje desde que Rusia invadió Ucrania en 2022: justificando la invasión.

Meta ha predicho ahora que más campañas dirigidas a usuarios de EE. UU. aparecerán en los próximos meses a medida que se acerque la elección presidencial de noviembre. Es probable que las campañas difundan mensajes anti-Ucrania y ataquen a los candidatos que apoyan a Ucrania.

Dijo:

“Entre ahora y las elecciones de EE. UU. en noviembre, esperamos que las operaciones basadas en Rusia promuevan comentarios de apoyo a los candidatos que se oponen a la ayuda a Ucrania y critiquen a aquellos que abogan por ayudar a sus defensas.”

A pesar de la amenaza persistente y el uso intensivo de IA en estas campañas engañosas, Meta afirmó haber desarrollado una forma altamente efectiva de detectar y prevenir dicha actividad maliciosa. La empresa se centra en el patrón de comportamiento de la cuenta en lugar del contenido de la publicación, lo que le permite detectar mejor las acciones automatizadas.

La historia de Rusia de interferencia electoral

La proactividad de Meta para limitar las campañas maliciosas de influencia política no es sorprendente. La empresa ha sido criticada por los reguladores por no prevenir o eliminar dichas campañas de su plataforma. En mayo de este año, la Unión Europea abrió una investigación sobre el incumplimiento de Meta de sus reglas de integridad electoral.

Mientras tanto, Rusia tiene un historial de patrocinar campañas de influencia contra potencias rivales, particularmente durante sus elecciones. Se ha acusado al país de influir en el resultado de las elecciones presidenciales de EE. UU. de 2016 a través de campañas en todas las plataformas de redes sociales, incluidas aplicaciones como Tumblr y PayPal.

Un estudio que analizó millones de publicaciones en redes sociales en todas las plataformas, incluido Google, mostró que el gobierno ruso, a través de varios operativos, difundió desinformación sobre el proceso electoral de EE. UU. para socavarlo. Identificó a un grupo, la Agencia de Investigación de Internet (IRA), considerada por muchos como una granja de trolls rusa, como líder de la campaña.

Con la llegada de tecnologías de IA generativa, que facilitan la generación de todo tipo de contenido, ha habido preocupaciones de que su uso para campañas de influencia sería muy alto en esta elección. Hasta ahora, varios expertos en seguridad han identificado algunos casos de su uso. Sin embargo, incluso los candidatos políticos se han acusado mutuamente de usar IA.