Apple rimuove le app dall'App Store per la promozione di immagini nude non consensuali

Il mese scorso, il gigante tecnologico Apple Inc. ha fatto una mossa audace e ha rimosso tre app dal suo App Store. Queste app sfruttavano persino gli strumenti di apprendimento automatico disponibili nell'IA e cercavano di costruire immagini non consensuali senza il consenso di una persona. La decisione segue le preoccupazioni che le app stessero utilizzando pubblicità ingannevole su piattaforme come Instagram e siti per adulti!

Casi ingannevoli nella pubblicità 

Chiunque faccia clic su questa pubblicità viene reindirizzato all'Apple App Store, dove la stessa app viene descritta come un "generatore di arte", senza alcun riferimento al fatto che può generare nudi. Si tratta di una falla di lunga data negli store di app per dispositivi mobili, identificata per la prima volta nel 2022.

Grazie ad algoritmi basati sull'intelligenza artificiale, le app accusate di compiere tali azioni sostenevano di spogliare le persone nelle foto, portando a un'errata assunzione di nudità anche se non si disponeva del permesso o della conoscenza dei soggetti. Tali atti non solo violano la privacy, ma sono anche potenziali fonti di sfruttamento, molestie e ricatto. 

Diversi annunci simili a questo, con varie altre donne generate dall'IA, sono stati mostrati su Facebook, Instagram, Facebook Messenger e nella rete pubblicitaria in-app di Meta tra il 10 e il 20 aprile.

Dopo essere stata avvisata riguardo a queste app truffaldine, Apple è stata effettivamente la prima a rimuoverle dall'App Store. Sebbene si dichiarassero innocenti, le loro vere intenzioni sono state scoperte dalle app stesse, costringendo Apple a rimuoverle e a far rispettare i suoi standard comunitari. Questo dimostra chiaramente la devozione incrollabile di Apple alla creazione di uno spazio digitale sicuro e neutro dal punto di vista del genere per tutti.

Sfide continue e responsabilità

Sebbene le contromisure adottate da Apple meritino rispetto, questo incidente, alla fine, solleva alcuni dubbi sul processo di revisione delle app e sul monitoraggio dei metodi pubblicitari. Il fatto che queste app siano rimaste inosservate nell'App Store per un lungo periodo sottolinea solo la necessità di maggiore attenzione e di misure attive per rilevare ed eliminare le app fraudolente.

Inoltre, gli sviluppatori hanno applicato metodi astuti per promuovere le loro funzionalità illegali su siti per adulti, garantendo l'assenza della loro rilevazione da parte di Apple e Google. Questi casi illustrano i problemi che le aziende tecnologiche affrontano nel fare polizia sulle loro piattaforme e nell'imporre le linee guida della comunità.

Con l'imminente divulgazione da parte di Apple di alcuni progetti legati all'IA alla Worldwide Developers Conference (WWDC) 2023, sarà piuttosto interessante vedere la mossa intrapresa dall'azienda riguardo a queste app. Una parte importante dell'implementazione responsabile della tecnologia da parte di Apple è mantenere una buona immagine per quanto riguarda il comportamento etico e una solida governance tecnologica, aspetto critico alla luce dell'uso crescente dell'IA nei suoi prodotti.

La rimozione di queste app sarebbe un esempio di questione etica nello sviluppo e nell'uso dell'IA. La seconda preoccupazione legata allo sviluppo delle capacità dell'IA è la privacy degli utenti. Inoltre, agli utenti dovrebbe essere richiesta la loro autorizzazione e dovrebbe essere garantita la loro sicurezza. Bloccando tali applicazioni, Apple sottolinea il comportamento etico nella sua comunità.