Los Algoritmos de Recomendación de Facebook Promueven Spam y Estafas Generadas por IA

En un estudio reciente realizado por investigadores de la Universidad de Stanford y la Universidad de Georgetown, han surgido revelaciones sobre los algoritmos de recomendación de Facebook. El estudio destaca cómo estos algoritmos están inadvertidamente impulsando las imágenes generadas por IA publicadas por spammers y estafadores, lo que lleva a una proliferación de contenido engañoso en la plataforma.

Imágenes generadas por IA: Una amenaza creciente

El estudio destaca la alarmante tendencia de las imágenes generadas por IA, a menudo desconcertantes o cautivadoras para los usuarios, siendo utilizadas como parte de campañas de spam o estafa más grandes en Facebook. Un ejemplo citado en la investigación es el fenómeno de 'Shrimp Jesus' (Jesús Camarón), una imagen creada por IA que ha ganado tracción viral múltiples veces en la plataforma. Originalmente destinadas a acumular seguidores, estas imágenes han evolucionado para dirigir el tráfico hacia sitios web llenos de anuncios o vendiendo productos de mala calidad.

El aspecto preocupante de estas imágenes generadas por IA radica en su capacidad para llegar a usuarios desprevenidos que no siguen las páginas de origen. Muchos usuarios interactúan con estas imágenes sin darse cuenta de que están interactuando con contenido fabricado. Aunque algunas imágenes, como 'Shrimp Jesus', pueden ser abiertamente fantásticas, otras que retratan objetos cotidianos o arte pueden engañar a los usuarios sobre su naturaleza artificial, lo que lleva a una desinformación generalizada y explotación.

Respuesta regulatoria y escrutinio

Las autoridades regulatorias están tomando medidas a medida que la amenaza del spam y las estafas generadas por IA se vuelve cada vez más aparente. La Autoridad de Normas de Publicidad del Reino Unido (ASA) está actualmente examinando la aplicación de la IA generativa en la publicidad, con posibles implicaciones para nuevas directrices que se introducirán este año. De manera similar, la Comisión Federal de Comercio de EE. UU. ha intensificado su enfoque en el problema, reconociendo la necesidad urgente de abordar las prácticas engañosas en las plataformas de redes sociales.

En 2021, Noruega implementó leyes revisadas que obligan a los anunciantes e influencers a revelar el uso de imágenes manipuladas digitalmente. Esta regulación, destinada a mejorar la transparencia y la confianza del consumidor, también podría extenderse a los anuncios generados por IA.

La proliferación de spam y estafas generadas por IA en Facebook subraya la necesidad de medidas regulatorias robustas y la responsabilidad de la plataforma para proteger a los usuarios de contenido engañoso. 

A medida que los investigadores continúan descubriendo la extensión de este fenómeno, las empresas de redes sociales deben priorizar la integridad de sus algoritmos de recomendación y combatir la explotación de la IA generativa con fines maliciosos. Solo podemos mitigar los riesgos planteados por el engaño generado por IA a través de esfuerzos concertados de los organismos reguladores y las plataformas tecnológicas, y asegurar un entorno en línea más seguro para todos los usuarios.