Gli algoritmi di raccomandazione di Facebook promuovono spam e truffe generati dall'IA

In un recente studio condotto da ricercatori dell'Università di Stanford e dell'Università di Georgetown, sono emerse rivelazioni riguardo agli algoritmi di raccomandazione di Facebook. Lo studio evidenzia come questi algoritmi stiano involontariamente potenziando le immagini generate dall'IA pubblicate da spammer e truffatori, portando a una proliferazione di contenuti ingannevoli sulla piattaforma.

Immagini generate dall'IA: una minaccia in crescita

Lo studio evidenzia l'allarmante tendenza delle immagini generate dall'IA, spesso perplessi o catturanti per gli utenti, utilizzate come parte di campagne di spam o truffa più ampie su Facebook. Un esempio citato nella ricerca è il fenomeno di 'Shrimp Jesus', un'immagine creata dall'IA che ha guadagnato trazione virale più volte sulla piattaforma. Originariamente intese ad accumulare follower, queste immagini si sono evolute per dirigere il traffico verso siti web pieni di pubblicità o che vendono prodotti scadenti.

L'aspetto preoccupante di queste immagini generate dall'IA risiede nella loro capacità di raggiungere utenti ignari che non seguono le pagine di origine. Molti utenti interagiscono con queste immagini senza rendersi conto che stanno interagendo con contenuti falsi. Sebbene alcune immagini, come 'Shrimp Jesus', possano essere palesemente fantastiche, altre che ritraggono oggetti quotidiani o opere d'arte possono ingannare gli utenti sulla loro natura artificiale, portando a disinformazione diffusa e sfruttamento.

Risposta normativa e scrutinio

Le autorità di regolamentazione stanno intervenendo mentre la minaccia rappresentata da spam e truffe generati dall'IA diventa sempre più evidente. L'Autorità per gli Standard Pubblicitari del Regno Unito (ASA) sta attualmente esaminando l'applicazione dell'IA generativa nella pubblicità, con potenziali implicazioni per nuove linee guida da introdurre quest'anno. Allo stesso modo, la Federal Trade Commission degli Stati Uniti ha intensificato la sua attenzione sul problema, riconoscendo la necessità urgente di affrontare le pratiche ingannevoli sulle piattaforme di social media.

Nel 2021, la Norvegia ha implementato leggi riviste che obbligano gli inserzionisti e gli influencer a divulgare l'uso di immagini digitalmente manipolate. Questa regolamentazione, volta a migliorare la trasparenza e la fiducia dei consumatori, potrebbe estendersi anche agli annunci generati dall'IA.

La proliferazione di spam e truffe generati dall'IA su Facebook sottolinea la necessità di robuste misure normative e della responsabilità delle piattaforme per proteggere gli utenti da contenuti ingannevoli. 

Mentre i ricercatori continuano a scoprire l'entità di questo fenomeno, le aziende di social media devono dare priorità all'integrità dei loro algoritmi di raccomandazione e combattere lo sfruttamento dell'IA generativa per scopi malevoli. Possiamo solo mitigare i rischi posti dalla frode generata dall'IA attraverso sforzi concertati da organismi di regolamentazione e piattaforme tecnologiche, garantendo un ambiente online più sicuro per tutti gli utenti.