Le app "Nudify" basate sull'intelligenza artificiale guadagnano popolarità, sollevando preoccupazioni

Sta emergendo una tendenza inquietante: app e siti web che utilizzano l'intelligenza artificiale (IA) per spogliare le donne nelle foto stanno guadagnando una notevole popolarità, secondo una recente ricerca. Queste applicazioni, spesso definite servizi di "nudificazione", hanno sollevato serie preoccupazioni in materia di privacy, etica e consenso.

Popolarità in forte crescita

Solo a settembre, circa 24 milioni di persone hanno visitato questi siti web dedicati allo spogliarello, come riportato da Graphika, una società di analisi dei social network. Molti di questi servizi vengono commercializzati attraverso i social network più popolari e, secondo i ricercatori, il numero di link che pubblicizzano app di spogliarello su piattaforme come X e Reddit è aumentato di oltre il 2.400% dall'inizio dell'anno. La funzione principale di queste app è quella di utilizzare l'intelligenza artificiale per manipolare le immagini, creando una versione simulata del soggetto nudo. È importante notare che la maggior parte di questi servizi si rivolge esclusivamente alle donne.

Dilemmi etici e legali

Queste app basate sull'intelligenza artificiale fanno parte di una preoccupante tendenza associata alla pornografia non consensuale, facilitata dai progressi della tecnologia di intelligenza artificiale, che ha portato alla proliferazione della pornografia deepfake. La pornografia deepfake in genere comporta la creazione di contenuti multimediali fittizi, come video o immagini, spesso all'insaputa o all'insaputa del soggetto. Queste immagini provengono spesso da piattaforme di social media e distribuite senza il controllo o la consapevolezza del soggetto, presentando significative sfide etiche e legali.

Molestie online e violazioni della privacy

Le preoccupazioni sono aumentate poiché alcune di queste app e servizi promuovono comportamenti non consensuali e molestie. Ad esempio, un'immagine pubblicata su X che promuoveva un'app di nudismo suggeriva che gli utenti potessero generare immagini di nudo e inviarle ai soggetti digitalmente svestiti, incitando a molestie e abusi. Inoltre, alcune di queste app hanno pagato per contenuti sponsorizzati sulla piattaforma YouTube di Google, comparendo in primo piano nei risultati di ricerca per termini come "nudify". Tuttavia, Google ha dichiarato di non consentire annunci con contenuti sessualmente espliciti e sta rimuovendo attivamente gli annunci che violano le norme. Al momento, né X né Reddit hanno risposto alle richieste di commento.

Proliferazione dei deepfake

La pornografia non consensuale che coinvolge personaggi pubblici è un problema di lunga data su Internet. Tuttavia, gli esperti di privacy sono sempre più allarmati dal fatto che i progressi nella tecnologia dell'intelligenza artificiale abbiano reso i software deepfake più accessibili ed efficaci. Questi strumenti vengono ora utilizzati non solo da malintenzionati, ma anche da individui comuni, inclusidentdelle scuole superiori e dell'università, per prendere di mira vittime ignare.

Sfide nell'affrontare i deepfake

Affrontare il problema della pornografia deepfake pone sfide significative. Sebbene esistano leggi contro la creazione di tali contenuti che coinvolgono minori, attualmente negli Stati Uniti non esiste una legge federale che vieti specificamente la creazione di pornografia deepfake che coinvolga adulti. Le forze dell'ordine incontrano spesso difficoltà nell'indagare su questi casi e le vittime potrebbero avere difficoltà a ottenere i fondi per azioni legali.

Un evento degno di nota è stata la condanna a 40 anni di carcere di uno psichiatra infantile della Carolina del Nord a novembre per aver utilizzato app di nudità nelle foto dei pazienti. Si è trattato del primo procedimento penale di questo tipo ai sensi delle leggi che vietano la generazione di materiale deepfake contenente abusi sessuali su minori.

Risposte della piattaforma

In risposta alle crescenti preoccupazioni, le piattaforme di social media hanno preso provvedimenti. TikTok, ad esempio, ha bloccato la parola chiave "undress", comunemente associata a questi servizi. Quando gli utenti cercano questo termine, ricevono un avviso che potrebbe essere collegato a comportamenti o contenuti che violano le linee guida della piattaforma. Allo stesso modo, Meta Platforms Inc., la società madre di Facebook, ha iniziato a bloccare le parole chiave associate alla ricerca di app di undressing. Tuttavia, entrambe le società hanno rifiutato di fornire ulteriori commenti sulla questione.

Considerazioni legali ed etiche

L'ascesa delle app "nudify" basate sull'intelligenza artificiale sottolinea l'urgente necessità di affrontare le questioni legali ed etiche relative alla pornografia deepfake e ai contenuti non consensuali generati tramite l'intelligenza artificiale. Mentre la tecnologia continua a progredire, è necessario adottare normative e misure di salvaguardia per proteggere gli individui da molestie, violazioni della privacy e uso improprio dell'intelligenza artificiale per scopi dannosi.

In conclusione, la proliferazione di app basate sull'intelligenza artificiale in grado di generare immagini di nudo deepfake non consensuali è una tendenza preoccupante che evidenzia l'urgenza di affrontare le questioni etiche, legali e di privacy nell'era digitale. Con l'evoluzione della tecnologia, sia i legislatori che le aziende tecnologiche devono adottare misure proattive per contrastare l'uso improprio dell'intelligenza artificiale per scopi dannosi e proteggere gli individui da potenziali danni