Meta annuncia un'estensione della politica per l'etichettatura delle immagini generate dall'AI

Meta, precedentemente nota come Facebook, ha annunciato un’espansione della propria politica per affrontare le sfide associate alla proliferazione di contenuti generati dall’AI sulle sue piattaforme, tra cui Facebook, Instagram e Threads.

In risposta alla crescente diffusione dell’intelligenza artificiale generativa, l’azienda introdurrà etichette di avvertimento sulle immagini generate dall’AI per informare gli utenti delle loro origini artificiali. Sebbene questa mossa sia considerata un passo positivo, permangono preoccupazioni riguardo alla sua efficacia nel contrastare gli attori malintenzionati e ai limiti della tecnologia.

Etichette di avvertimento sulle immagini generate dall’AI

L’ultima svolta nella politica di Meta prevede l’etichettatura delle immagini generate dall’AI, sia che siano state create utilizzando i suoi strumenti di AI generativa sia quelle fornite da altre aziende, con etichette che ne indicano la natura artificiale. Questa mossa è progettata per ridurre il rischio di diffusione di disinformazione e misinformation tramite immagini generate dall’AI presentate come foto reali.

 Meta ha iniziato a etichettare le immagini prodotte dalla sua AI come “Immaginate con AI”, identificando principalmente il watermark digitale incorporato dai suoi algoritmi nell’output.

Sfide e limitazioni

Nonostante l’impegno di Meta nell’implementare queste etichette di avvertimento, permangono sfide significative. Una delle sfide più rilevanti è che molti strumenti di generazione di immagini AI non applicano watermarking al proprio output, rendendo facile per gli attori malintenzionati manipolare e diffondere contenuti generati dall’AI senza rivelarne l’origine. 

Inoltre, la tecnologia per rilevare in modo affidabile le immagini generate dall’AI ed etichettarle è ancora in fase di sviluppo e non esiste uno standard universalmente adottato.

La Coalizione per la Provenienza e l’Autenticità dei Contenuti (C2PA), un’iniziativa fondata da Adobe, ha cercato di allineare il lavoro delle aziende sulla provenienza dei contenuti. Tuttavia, la tecnologia sviluppata finora non è infallibile. 

I ricercatori hanno dimostrato la facilità con cui i watermark possono essere rimossi o aggiunti a immagini non generate dall’AI, compromettendone l’efficacia.

Hany Farid, professore presso la School of Information dell’UC Berkeley che consiglia l’iniziativa C2PA, mette in guardia dal fatto che gli attori malintenzionati potrebbero utilizzare strumenti AI che non applicano watermarking al proprio output per ingannare ulteriormente gli utenti. 

Suggerisce che potrebbe essere necessaria una combinazione di metodi di identificazione, come il watermarking e la tecnologia basata su hash , per identificare in modo robusto i contenuti generati dall’AI. Il watermarking è meno sviluppato per i media generati dall’AI oltre alle immagini, come audio e video.

Espansione delle politiche e della supervisione

Sebbene le nuove politiche di Meta rappresentino un passo avanti nella lotta contro i contenuti falsi, non si limitano ai materiali generati dall’AI. Il Board di Supervisione di Meta, composto da esperti indipendenti, ha recentemente confermato la decisione di Meta di lasciare online un video del presidente Joe Biden che era stato modificato per creare un’impressione fuorviante. 

Questa decisione evidenzia la necessità che Meta riveda ed espanda le proprie regole per i “media manipolati” per includere non solo i contenuti generati dall’AI.

Il portavoce di Meta, Kevin McAlister, riconosce la necessità di un approccio più ampio, affermando: “Mentre le aziende stanno iniziando a includere segnali nei loro generatori di immagini, non hanno ancora iniziato a includerli negli strumenti AI che generano audio e video alla stessa scala.” 

Di conseguenza, Meta sta lavorando all'aggiunta di una funzionalità che consenta agli utenti di dichiarare quando condividono video o audio generati dall'IA, in modo da poter applicare etichette appropriate.