Le app 'Nudify' basate sull'IA guadagnano popolarità, suscitando preoccupazioni

Sta emergendo una tendenza inquietante: app e siti web che utilizzano l'intelligenza artificiale (IA) per spogliare le donne nelle foto stanno guadagnando una notevole popolarità, secondo recenti ricerche. Queste applicazioni, spesso definite servizi "nudify", hanno sollevato gravi preoccupazioni riguardo alla privacy, all'etica e al consenso.

Popolarità in ascesa

Solo a settembre, circa 24 milioni di persone hanno visitato questi siti web di spogliarello, come riportato da Graphika, un'azienda di analisi delle reti sociali. Molti di questi servizi sono commercializzati attraverso popolari reti sociali e il numero di link che pubblicizzano app di spogliarello su piattaforme come X e Reddit è aumentato di oltre il 2.400% dall'inizio dell'anno, secondo i ricercatori. La funzione principale di queste app è utilizzare l'IA per manipolare le immagini, creando una versione nuda simulata del soggetto. È importante notare che la maggior parte di questi servizi prende di mira esclusivamente le donne.

Dilemmi etici e legali

Queste app basate sull'IA fanno parte di una tendenza inquietante associata alla pornografia non consensuale facilitata dai progressi della tecnologia IA, portando alla proliferazione della pornografia deepfake. La pornografia deepfake comporta tipicamente la creazione di media falsi, come video o immagini, spesso senza la conoscenza o il consenso del soggetto. Queste immagini sono spesso prese da piattaforme di social media e distribuite senza il controllo o la consapevolezza del soggetto, presentando sfide etiche e legali significative.

Molestie online e violazioni della privacy

Le preoccupazioni sono aumentate poiché alcune di queste app e servizi promuovono comportamenti non consensuali e molestie. Ad esempio, un'immagine pubblicata su X che promuoveva un'app di spogliarello suggeriva che i clienti potessero generare immagini nude e inviarle ai soggetti digitalmente spogliati, incitando molestie e abusi. Inoltre, alcune di queste app hanno pagato contenuti sponsorizzati sulla piattaforma YouTube di Google, apparendo in modo prominente nei risultati di ricerca per termini come "nudify". Tuttavia, Google ha dichiarato che non consente annunci contenenti sessualmente espliciti e sta rimuovendo attivamente gli annunci che violano le norme. Ad oggi, né X né Reddit hanno risposto alle richieste di commento.

Proliferazione dei deepfake

La pornografia non consensuale che coinvolge figure pubbliche è da tempo un problema su Internet. Tuttavia, gli esperti di privacy sono sempre più allarmati dal fatto che i progressi nella tecnologia IA hanno reso il software deepfake più accessibile ed efficace. Questi strumenti sono ora utilizzati non solo da attori malintenzionati ma anche da individui comuni, inclusi studenti delle scuole superiori e universitari, per prendere di mira vittime inconsapevoli.

Sfide nell'affrontare i deepfake

Affrontare il problema della pornografia deepfake pone sfide significative. Sebbene esistano leggi contro la generazione di tali contenuti che coinvolgono minori, attualmente non esiste una legge federale negli Stati Uniti che vieti specificamente la creazione di pornografia deepfake che coinvolga adulti. Le forze dell'ordine spesso affrontano difficoltà nell'investigare questi casi e le vittime possono faticare a reperire fondi per azioni legali.

In uno sviluppo notevole, uno psichiatra infantile nella Carolina del Nord è stato condannato a 40 anni di prigione a novembre per aver utilizzato app di spogliarello su foto di pazienti. Questo ha segnato il primo processo di questo tipo ai sensi delle leggi che vietano la generazione di materiale di abuso sessuale infantile deepfake.

Risposte delle piattaforme

In risposta alle crescenti preoccupazioni, le piattaforme di social media hanno preso provvedimenti. TikTok, ad esempio, ha bloccato la parola chiave "undress", comunemente associata a questi servizi. Quando gli utenti cercano questo termine, ricevono un avviso che potrebbe essere collegato a comportamenti o contenuti che violano le linee guida della piattaforma. Allo stesso modo, Meta Platforms Inc., la società madre di Facebook, ha iniziato a bloccare le parole chiave associate alla ricerca di app di spogliarello. Tuttavia, entrambe le aziende hanno rifiutato di fornire ulteriori commenti sulla questione.

Considerazioni legali ed etiche

L'ascesa delle app "nudify" basate sull'IA sottolinea l'urgente necessità di affrontare le considerazioni legali ed etiche riguardanti la pornografia deepfake e i contenuti non consensuali generati attraverso l'IA. Mentre la tecnologia continua a evolversi, devono essere istituite regolamentazioni e salvaguardie per proteggere gli individui da molestie, violazioni della privacy e l'uso improprio dell'IA per scopi dannosi.

In conclusione, la proliferazione di app basate sull'IA in grado di generare nudi deepfake non consensuali è una tendenza preoccupante che evidenzia l'urgenza di affrontare questioni etiche, legali e di privacy nell'era digitale. Man mano che la tecnologia evolve, sia i legislatori che le aziende tecnologiche devono prendere misure proattive per contrastare l'uso improprio dell'IA per scopi malevoli e proteggere gli individui da potenziali danni