L'India dà nove giorni alle big tech per costruire ciò che non sono riuscite a fare in anni

India just ha lanciato una sfida che potrebbe risulta impossibile da soddisfare. A partire dal 20 febbraio, le aziende di social media operanti nel paese devono etichettare ogni contenuto falso generato dall'IA e rimuovere i deepfake illegali entro tre ore. La tecnologia per non che farlo correttamente non esiste ancora.

Le regole, annuncate maredì, mettono sotto pressione piattaforme come Meta, Google e X per implementare sistemi che individuino e contrassegnino immagini, video e audio generati dall'IA prima che gli utenti li vedano. Le aziende devono anche impedire alle persone di rimuovere o nascondere queste etichette. Anche con miliardi di risorse, questi giganti della tecnologia faticano a far funzionare in modo affidabile i loro attuali strumenti di rilevamento.

La maggior parte delle grandi piattaforme utilizza già qualcosa chiamato C2PA, che inserisce informazioni invisibili all'interno dei file per mostrare come sono stati hannocreati. È come un'etichetta nutrizionale per i contenuti digitali. Quando funziona, tu puoi vedere se una foto proviene da una vera fotocamera o da un generatore di IA. Facebook, Instagram, YouTube e LinkedIn cercano di segnalare questo contenuto, ma le etichettesono facilida perdere , e molti contenuti falsi

Il sistema presenta gravi lacune. Gli strumenti e le app di intelligenza artificiale open-source che generano foto nude false spesso omettono completamente il processo di etichettatura. Anche quando le etichette sono presenti, queste si eliminano durante i caricamenti dei file su molti siti. I sostenitori del C2PA hanno passato anni a dire che la tecnologia ha bisogno solo di una maggiore adozione per avere successo. L'India sta per mettere alla prova questa affermazione con 500 milioni di utenti dei social media.

sfuggono al controllo.

L'India conta 481 milioni di utenti su Instagram, 403 milioni su Facebook, 500 milioni su YouTube e 213 milioni su Snapchat. X considera l'India il suo terzo mercato più grande. Quando un paese di tali dimensioni introduce nuove regole, le grandi aziende tecnologiche globali tendono a modificare i propri sistemi ovunque, non solo in un'unica località.

Questa spinta arriva dopo che l'India ha passato mesi a fare i conti con una crisi dei deepfake. Cryptopolitan ha riportato lo scorso ottobre che gli attori di Bollywood Abhishek Bachchan e Aishwarya Rai Bachchan hanno intentato una causa per video falsi che utilizzavano i loro volti, chiedendo quasi mezzo milione di dollari di risarcimento. La coppia affermava che gli addestratori AI di YouTube avessero prelevato contenuti pubblici senza autorizzazione per addestrare sistemi che in seguito hanno creato media falsi con le loro immagini. Casi come questi, insieme a video falsi virali dell'attrice Rashmika Mandanna, hanno spinto le autorità ad agire.

La tempistica coincide con le ambizioni dell'India in materia di IA. Google sta costruendo un hub per l'IA del valore di 15 miliardi di dollari a Visakhapatnam che diventerà la struttura più grande dell'azienda al di fuori degli Stati Uniti. Il sito disporrà di capacità di calcolo su scala gigawatt ed è previsto l'apertura per luglio 2028. Con l'arrivo di un'infrastruttura IA di tale portata, i regolatori vogliono che le norme sulla sicurezza dei contenuti siano già operative.

Perché il potere di mercato dell'India cambia tutto

Le scadenze strette preoccupano i difensori della libertà di espressione. L'Internet Freedom Foundation afferma che la finestra di rimozione dei contenuti di tre ore costringerà le aziende a utilizzare sistemi automatizzati che eliminano per errore troppi contenuti. Essi la definiscono creazione di "censori a raffica" perché non c'è tempo per un'adeguata revisione umana delle segnalazioni.

Piattaforme come X, che non hanno ancora implementato alcuna etichettatura AI, hanno ora solo nove giorni per costruire interi sistemi da zero. Meta, Google e X hanno rifiutato di commentare. Adobe, l'azienda dietro C2PA, è rimasta in silenzio anche lei.

I funzionari che stanno redigendo le regole sembrano sapere che la tecnologia attuale non è pronta. I requisiti indicano che le piattaforme dovrebbero utilizzare metodi di rilevamento "nella misura tecnicamente fattibile" – un linguaggio giuridico che ammette che la perfezione non è attesa. I leader indiani ritienono che la pressione guiderà l'innovazione. Stanno scommettendo sul fatto che quando si costringono le aziende tecnologiche a costruire sistemi migliori o a perdere l'accesso a centinaia di milioni di utenti, ci riusciranno in fretta.

Che se esista davvero una tecnologia di rilevamento dell'IA migliore da sviluppare, o se l'India abbia semplicemente ordinato alle aziende di fornire qualcosa che non può essere ancora creata, rimane da vedere. Lo scopriremo tra nove giorni.