Meta annuncia piani per utilizzare l'IA per valutare rischi legati alla privacy e alla società

Meta Platforms sta pianificando di utilizzare l'intelligenza artificiale per valutare i rischi legati alla privacy e alla società. Nel corso degli anni, l'azienda si è avvalsa di valutatori umani per analizzare i rischi associati a nuovi prodotti e funzionalità, ma le cose stanno per cambiare con questo nuovo aggiornamento.

Secondo conversazioni e documenti interni, Meta sta pianificando di automatizzare il 90% delle sue valutazioni dei rischi. Ciò significa che aspetti relativi ad aggiornamenti critici degli algoritmi dell'azienda, alle funzionalità di sicurezza e alle modifiche su come i contenuti possono essere condivisi sulle piattaforme Meta saranno approvati principalmente da un sistema supportato dall'intelligenza artificiale. Significa anche che queste modifiche non saranno più soggette a revisione da parte del personale incaricato di discutere come una modifica alla piattaforma potrebbe avere effetti imprevisti o essere utilizzata in modo improprio.

Meta intende passare a un sistema di revisione basato sull'intelligenza artificiale

Secondo fonti interne a Meta, lo sviluppo è stato visto come una vittoria per gli sviluppatori di prodotti, in quanto garantisce loro il tempo necessario per rilasciare aggiornamenti e funzionalità delle app. Tuttavia, all'interno dell'azienda persistono preoccupazioni sulla complessità della situazione: si nota che permettere all'IA di prendere decisioni delicate sulle app di Meta potrebbe causare danni nel mondo reale. Questo pregiudizio è condiviso sia da ex dipendenti che da attuali collaboratori.

"Fino a quando questo processo significherà funzionalmente il lancio più rapido di più elementi, con meno scrutinio rigoroso e opposizione, si stanno creando rischi maggiori", ha dichiarato un ex dirigente di Meta che ha richiesto l'anonimato per timore di ritorsioni da parte dell'azienda. "Le esternalità negative delle modifiche ai prodotti sono meno probabili che vengano prevenute prima di iniziare a causare problemi nel mondo."

In una dichiarazione recente, Meta ha affermato di aver investito miliardi di dollari per sostenere la privacy degli utenti. L'azienda è inoltre sotto l'osservazione della Federal Trade Commission dal 2012, con l'agenzia che ha raggiunto un accordo con la società su come gestisce le informazioni personali dei propri utenti. Di conseguenza, secondo ex e attuali dipendenti di Meta, è sempre stata necessaria una revisione della privacy dei prodotti.

Nella sua dichiarazione, l'azienda ha aggiunto che le modifiche alla revisione del rischio dei prodotti aiuteranno a snellire il processo decisionale, sottolineando che fa ancora affidamento sull'esperienza umana per questioni nuove e complesse. Meta ha inoltre precisato che attualmente vengono automatizzate solo le decisioni a basso rischio, ma documenti interni esaminati da NPR mostrano che Meta sta valutando l'automazione delle revisioni per aspetti sensibili, tra cui la sicurezza dell'IA, i rischi per i giovani e un'altra categoria definita integrità, responsabile di temi come la disinformazione e i contenuti violenti.

Con il sistema precedente, gli aggiornamenti di prodotto e funzionalità venivano inviati prima ai valutatori dei rischi prima di essere lanciati al pubblico. Tuttavia, secondo una diapositiva che illustra come funziona il nuovo processo, i team di prodotto riceveranno decisioni immediate dopo aver compilato un questionario sul progetto. La decisione basata sull'intelligenza artificiale identificherà diverse aree a rischio e i requisiti necessari per affrontarle. Prima del lancio di tali progetti, il team di prodotto verificherà anche se i requisiti sono stati soddisfatti.

Ciò che il nuovo sistema evidenzia è che gli ingegneri che sviluppano prodotti Meta dovranno esprimere un giudizio sui rischi. Secondo la diapositiva, in alcuni casi, inclusi nuovi rischi o quando un team di prodotto necessita di ulteriori feedback, i progetti saranno sottoposti a una revisione manuale effettuata da esseri umani.

Tuttavia, Zvika Krieger, ex direttore per l'innovazione di Meta fino al 2022, ha sottolineato che i product manager e gli ingegneri non sono esperti di privacy. «La maggior parte dei product manager e degli ingegneri non sono esperti di privacy e questo non è il focus del loro lavoro. Non è su ciò che vengono principalmente valutati e non è ciò per cui sono incentivati a dare priorità», ha dichiarato. Ha aggiunto inoltre che alcune di queste autovalutazioni sono diventate esercizi che trascurano alcuni rischi importanti.