Meta lancerà strumenti AI per la protezione dalla sextorsione dei minori

Recentemente, Meta è stata accusata di danneggiare la salute mentale degli adolescenti, e più di 40 stati la stanno citando in giudizio, sostenendo che ha "guadagnato dal dolore dei bambini". I politici statunitensi hanno accusato Meta di turbare il benessere psicologico dei giovani. Meta ha annunciato giovedì che sta sviluppando strumenti basati sull'intelligenza artificiale per proteggere i bambini dalle truffe di sextorsione su Instagram. 

Le truffe di sextorsione gestite da gang su Instagram convincono gli adolescenti a condividere le loro immagini esplicite e poi chiedono denaro o minacciano altrimenti di rilasciare le immagini al pubblico su internet. 

Sextorsione finanziaria e misure di sicurezza

Meta ha annunciato che sta testando strumenti basati sull'intelligenza artificiale per contrastare la situazione finanziaria. Si dice che gli strumenti forniscano protezione dalla nudità sfocando le immagini che la loro AI rileva contenenti nudità mentre vengono inviate ai minori nei messaggi su Instagram. Capucine Tuffier, responsabile della protezione dei minori presso Meta Francia, ha detto ad AFP che questo aiuterà a proteggere i bambini dall'esposizione a contenuti intimi indesiderati e darà loro la scelta di voler vedere o meno l'immagine, poiché quando qualcuno riceve un messaggio del genere, apparirà uno schermo di avviso sopra l'immagine sfocata.

Meta ha detto che offrirà anche consigli e suggerimenti sulla sicurezza a chiunque stia ricevendo o inviando tali messaggi, fornendo un aiuto tempestivo. Apparirà un messaggio sullo schermo che incoraggerà l'utente a non sentirsi sotto pressione per rispondere alla potenziale truffa e fornirà anche un'opzione per bloccare il mittente e segnalare l'incidente.

Secondo le statistiche delle autorità, quasi 3000 giovani sono stati trovati vittime di truffe di sextorsione nel 2022 solo negli Stati Uniti. Lo scorso ottobre, più di 40 stati hanno citato in giudizio la società madre di Instagram, Meta, in un caso in cui si affermava che l'azienda aveva tratto profitto dal dolore dei bambini. L'azienda è stata accusata di progettare un modello di business che sfrutta i giovani utenti massimizzando il tempo trascorso sulla loro piattaforma, nonostante i danni alla loro salute mentale e al loro benessere. 

Meta lavora su soluzioni di machine learning sul dispositivo

All'inizio del nuovo anno, Meta ha rivelato che avrebbe rilasciato strategie per salvaguardare i minori di 18 anni limitando le politiche di utilizzo dei contenuti e aumentando il controllo parentale sulla loro piattaforma. Ieri, Meta ha detto che i suoi ultimi strumenti si basano sul loro lavoro radicato riguardo alla protezione delle persone minorenni da potenziali interazioni negative o dannose.

Meta ha dichiarato in un post,

"Stiamo testando nuove funzionalità per aiutare a proteggere i giovani dalla sextorsione e dall'abuso di immagini intime e per rendere più difficile per potenziali truffatori e criminali trovare e interagire con i teenager."

Fonte: Meta

Meta ha anche aggiunto,

"La protezione dalla nudità utilizza il machine learning sul dispositivo per analizzare se un'immagine inviata in un DM su Instagram contiene nudità. Poiché le immagini vengono analizzate direttamente sul dispositivo, la protezione dalla nudità funzionerà nelle chat crittografate end-to-end, dove Meta non avrà accesso a queste immagini – a meno che qualcuno non scelga di segnalarcele."

Fonte: Meta

Meta ha anche esortato a scremare i potenziali account che inviano contenuti offensivi e ad applicare restrizioni severe quando contattano utenti minorenni. Sebbene sappiamo che Meta è stata accusata di violare la privacy dei dati degli utenti in molte occasioni, queste misure sembrano andare nella direzione giusta. Ma l'azienda ha anche sottolineato che non avrà accesso alle immagini inappropriate a meno che non vengano segnalate dagli utenti.

Questa storia è tratta da un blog di Meta.