Apple rimuove le app dall'App Store per la promozione di immagini di nudo non consensuali

Il mese scorso, il colosso della tecnologia Apple Inc. ha compiuto una mossa coraggiosa rimuovendo tre app dal suo App Store. Queste app sfruttavano persino gli strumenti di apprendimento automatico disponibili nell'intelligenza artificiale e cercavano di creare immagini non consensuali senza il consenso di una persona. La decisione è stata presa in seguito alle preoccupazioni relative all'utilizzo di pubblicità ingannevole da parte delle app su piattaforme come Instagram e siti web pornografici.

Casi ingannevoli nella pubblicità 

Chi clicca su questo annuncio viene indirizzato all'Apple App Store, dove l'app viene descritta come un "generatore d'arte", ma senza alcun riferimento al fatto che possa generare nudi. Si tratta di una lacuna di vecchia data negli app store per dispositivi mobili,dentper la prima volta nel 2022.

Attraverso algoritmi basati sull'intelligenza artificiale, le app accusate di aver compiuto questo atto sostenevano di spogliare le persone nelle foto, portando a un'errata supposizione di nudità, pur non avendo il permesso o la conoscenza dei soggetti. Simili atti non solo violano la privacy, ma sono anche potenziali fonti di sfruttamento, molestie e ricatti. 

Tra il 10 e il 20 aprile sono apparse su Facebook, Instagram, Facebook Messenger e sulla rete pubblicitaria in-app di Meta diverse versioni simili di questa pubblicità, con altre donne generate dall'intelligenza artificiale.

Dopo essere stata informata di queste app truffa, Apple è stata la prima a rimuoverle dall'App Store. Sebbene si dichiarassero innocenti, le loro vere motivazioni sono state rivelate dalle app stesse, costringendo Apple a rimuoverle e a rispettare i suoi standard di comunità. Ciò dimostra chiaramente l'incrollabile dedizione di Apple alla creazione di uno spazio digitale sicuro e gender-neutral per tutti.

Sfide e responsabilità in corso

Sebbene le contromisure adottate da Apple meritino rispetto, questodent, alla fine, solleva alcuni dubbi sulla revisione delle app e sul monitoraggio dei metodi pubblicitari. Il fatto che queste app siano passate inosservate sull'App Store per molto tempo non fa che sottolineare la necessità di maggiore attenzione e misure attive per individuare ed eliminare le app fraudolente.

Inoltre, gli sviluppatori hanno applicato metodi subdoli per promuovere le loro funzionalità illegali su siti per adulti, evitando così che Apple e Google ne rilevassero il contenuto. Questi casi illustrano le difficoltà che le aziende tecnologiche devono affrontare nel controllare le proprie piattaforme e far rispettare le linee guida della community.

Con l'imminente presentazione da parte di Apple di alcuni progetti relativi all'intelligenza artificiale alla Worldwide Developers Conference (WWDC) 2023, sarà piuttosto interessante vedere l'iniziativa intrapresa dall'azienda per quanto riguarda queste app. Un aspetto importante dell'implementazione responsabile della tecnologia da parte di Apple è mantenere una buona immagine di comportamento etico e di una solida governance tecnologica, aspetto fondamentale alla luce del crescente utilizzo dell'intelligenza artificiale da parte di Apple nei suoi prodotti.

La rimozione di queste app rappresenterebbe un esempio di questione etica nello sviluppo e nell'utilizzo dell'intelligenza artificiale. La seconda preoccupazione legata allo sviluppo delle capacità di intelligenza artificiale è la privacy degli utenti. Inoltre, è necessario richiedere il consenso degli utenti e garantire la loro sicurezza. Bloccando tali applicazioni, Apple sottolinea il comportamento etico della sua comunità.