Les algorithmes de recommandation de Facebook favorisent le spam et les arnaques générés par l'IA

Dans une étude récente menée par des chercheurs de l'Université Stanford et de l'Université Georgetown, des révélations sont apparues concernant les algorithmes de recommandation de Facebook. L'étude met en évidence comment ces algorithmes boostent involontairement les images générées par IA publiées par des spammeurs et des escrocs, entraînant une prolifération de contenu trompeur sur la plateforme.

Images générées par l'IA : une menace croissante

L'étude met en évidence la tendance alarmante des images générées par l'IA, souvent déroutantes ou captivantes pour les utilisateurs, utilisées dans le cadre de campagnes de spam ou d'arnaque plus vastes sur Facebook. Un exemple cité dans la recherche est le phénomène du « Jésus Crevette », une image créée par l'IA qui a connu une viralité à plusieurs reprises sur la plateforme. Initialement destinées à accumuler des abonnés, ces images ont évolué pour diriger le trafic vers des sites Web remplis de publicités ou vendant des produits de qualité inférieure.

L'aspect préoccupant de ces images générées par l'IA réside dans leur capacité à atteindre des utilisateurs non avertis qui ne suivent pas les pages d'origine. De nombreux utilisateurs interagissent avec ces images sans réaliser qu'ils interagissent avec du contenu fabriqué. Bien que certaines images, comme le « Jésus Crevette », puissent être manifestement fantastiques, d'autres représentant des objets du quotidien ou des œuvres d'art peuvent tromper les utilisateurs sur leur nature artificielle, conduisant à une désinformation généralisée et à une exploitation.

Réponse réglementaire et examen

Les autorités réglementaires passent à l'action à mesure que la menace posée par le spam et les arnaques générés par l'IA devient de plus en plus apparente. L'Autorité britannique des normes publicitaires (ASA) examine actuellement l'application de l'IA générative dans la publicité, avec des implications potentielles pour de nouvelles lignes directrices à introduire cette année. De même, la Federal Trade Commission (FTC) des États-Unis a intensifié son focus sur la question, reconnaissant la nécessité urgente de remédier aux pratiques trompeuses sur les plateformes de médias sociaux.

En 2021, la Norvège a mis en œuvre des lois révisées obligeant les annonceurs et les influenceurs à divulguer l'utilisation d'images numériquement manipulées. Cette réglementation, visant à améliorer la transparence et la confiance des consommateurs, pourrait également s'étendre aux publicités générées par IA.

La prolifération du spam et des arnaques générés par l'IA sur Facebook souligne la nécessité de mesures réglementaires robustes et de la responsabilité des plateformes pour protéger les utilisateurs contre les contenus trompeurs. 

Alors que les chercheurs continuent de découvrir l'ampleur de ce phénomène, les entreprises de médias sociaux doivent prioriser l'intégrité de leurs algorithmes de recommandation et combattre l'exploitation de l'IA générative à des fins malveillantes. Nous ne pouvons atténuer les risques posés par la tromperie générée par l'IA que par des efforts concertés des organismes de réglementation et des plateformes technologiques, et garantir un environnement en ligne plus sûr pour tous les utilisateurs.