Di recente, Meta è stata accusata di danneggiare la salute mentale degli adolescenti e più di 40 stati l'hanno citata in giudizio, sostenendo che avrebbe "tratto profitto dal dolore dei bambini". I politici statunitensi hanno accusato Meta di turbare il benessere psicologico dei più giovani. Meta ha annunciato giovedì di star sviluppando strumenti basati sull'intelligenza artificiale per proteggere i bambini dalle truffe di sextortion su Instagram.
Le truffe di sextortion gestite da gang su Instagram convincono gli adolescenti a condividere le loro immagini esplicite e poi chiedono soldi o minacciano in altro modo di rendere pubbliche le immagini su Internet.
Sextortion finanziaria e misure di sicurezza
Meta ha annunciato di aver testato strumenti basati sull'intelligenza artificiale per contrastare la situazione finanziaria. Si dice che gli strumenti forniscano protezione dalla nudità sfocando le immagini che l'intelligenza artificiale rileva come contenenti nudità quando vengono inviate ai minori nei messaggi su Instagram. Capucine Tuffier, responsabile della protezione dei minori presso Meta France, ha dichiarato all'AFP che questo contribuirà a proteggere i bambini dall'esposizione a contenuti intimi indesiderati e darà loro la possibilità di scegliere se visualizzare o meno l'immagine, poiché quando qualcuno riceve un messaggio di questo tipo, apparirà una schermata di avviso sopra l'immagine sfocata.
Meta ha affermato che offrirà anche consigli e suggerimenti sulla sicurezza a chiunque riceva o invii tali messaggi, fornendo un aiuto tempestivo. Sullo schermo apparirà un messaggio che incoraggerà l'utente a non sentirsi sotto pressione e a non rispondere a potenziali inganni, offrendo anche la possibilità di bloccare il mittente e segnalare l'dent.
Secondo le statistiche delle autorità, nel 2022, solo negli Stati Uniti, quasi 3000 giovani sono stati vittime di truffe sessuali. A ottobre, oltre 40 stati hanno intentato causa contro la società madre di Instagram, Meta, sostenendo che l'azienda aveva tratto profitto dal dolore dei bambini. L'azienda è stata accusata di aver ideato un modello di business che sfrutta i giovani utenti, costringendoli a trascorrere il massimo tempo possibile sulla piattaforma, nonostante i danni alla loro salute mentale e al loro benessere.
Meta lavora su soluzioni di apprendimento automatico su dispositivo
All'inizio del nuovo anno, Meta ha annunciato che avrebbe rilasciato strategie per tutelare i minori di 18 anni, limitando le policy sull'utilizzo dei contenuti e rafforzando il controllo parentale sulla propria piattaforma. Ieri, Meta ha affermato che i suoi ultimi strumenti si basano sul suo radicato lavoro nella protezione dei minori da potenziali interazioni negative o dannose.
Meta ha detto in un post,
"Stiamo testando nuove funzionalità per proteggere i giovani dal sextortion e dall'abuso di immagini intime e per rendere più difficile per potenziali truffatori e criminali trovare e interagire con gli adolescenti"
Fonte: Meta
Meta ha anche aggiunto,
"La protezione dalla nudità utilizza l'apprendimento automatico sul dispositivo per analizzare se un'immagine inviata in un messaggio diretto su Instagram contiene nudità. Poiché le immagini vengono analizzate sul dispositivo stesso, la protezione dalla nudità funzionerà nelle chat crittografate end-to-end, dove Meta non avrà accesso a queste immagini, a meno che qualcuno non scelga di segnalarcelo."
Fonte: Meta
Meta ha inoltre esortato a controllare i potenziali account che inviano contenuti discutibili e ad applicare rigide restrizioni quando contattano utenti minorenni. Sappiamo che Meta è stata accusata di aver violato la privacy dei dati in numerose occasioni, ma queste misure sembrano essere nella giusta direzione. L'azienda ha anche sottolineato che non avrà accesso alle immagini inappropriate a meno che non vengano segnalate dagli utenti stessi.
Questa storia è tratta da un blog Meta .
