L'India dà alle grandi aziende tecnologiche nove giorni per costruire ciò che non sono riuscite a fare in anni

L'Indialanciatoha appena una sfida che potrebbe essere impossibile da vincere. A partire dal 20 febbraio, le aziende di social media che operano nel paese dovranno etichettare ogni contenuto falso creato con l'intelligenza artificiale e rimuovere i deepfake illegali entro tre ore. La tecnologia per farlo correttamente non esiste ancora.

Le regole, annunciatemartedì, mettono pressione a piattaforme come Meta, Google e X affinché implementino sistemi che catturino e contrassegnino immagini, video e audio generati dall'intelligenza artificiale prima che gli utenti li vedano. Le aziende devono anche impedire che le persone rimuovano o nascondano queste etichette. Nonostante miliardi di dollariinvestitiin risorse, questi giganti della tecnologia faticano a far funzionare in modo affidabile i loro attuali strumenti di rilevamento.

La maggior parte delle grandi piattaforme utilizza già una tecnologia chiamata C2PA, che inserisce informazioni invisibili all'interno dei file per mostrare come sono stati creati. È come un'etichetta nutrizionale per i contenuti digitali. Quando funziona, permette di capire se una foto è stata scattata con una vera fotocamera o generata dall'intelligenza artificiale. Facebook, Instagram, YouTube e LinkedIn cercano di segnalare questi contenuti, ma le etichette sonofacilida non notaree molti contenuti riescono comunque a eludere i controlli.

Il sistema presenta gravi lacune. Gli strumenti e le app di intelligenza artificiale open source che creano foto di nudo false spesso saltano il processo di etichettatura completamente. Anche quando le etichette sono presenti,scompaionodurante il caricamento dei file su molti siti. I sostenitori di C2PA hanno passato anni a sostenerechela tecnologia ha solo bisogno di una maggiore diffusione per avere successo. L'India sta per mettere alla prova questa affermazione con 500 milioni di utenti dei social media.

Perché il potere di mercato dell'India cambia tutto

L'India ha 481 milioni di utenti Instagram, 403 milioni su Facebook, 500 milioni su YouTube e 213 milioni su Snapchat. X considera l'India il suo terzo mercato più grande Quando un paesecosìgrande . introduce nuove regole, le aziende tecnologiche globali in genere adattano i loro sistemi ovunque, non solo in un luogo.

Questa spinta arriva dopo che l'India ha trascorso mesi a fronteggiare una crisi. Cryptopolitan Lo scorso ottobre, che gli attori di Bollywood Abhishek Bachchan e Aishwarya Rai Bachchan hanno intentato causa per video falsi che utilizzavano i loro volti, chiedendo quasi mezzo milione di dollari di risarcimento danni. La coppia ha affermatochegli algoritmi di intelligenza artificiale di YouTube hanno prelevato contenuti pubblici senza autorizzazione per addestrare i sistemi che in seguito hanno creato contenuti multimediali falsi con le loro immagini. Casi come questi, insieme ai video falsi virali dell'attrice Rashmika Mandanna, hanno spinto le autorità ad agire.

La tempistica coincide con le ambizioni dell'India nel campo dell'intelligenza artificiale. Google sta costruendo un hub per l'IA da 15 miliardi di dollari a Visakhapatnam, che diventerà la più grande struttura dell'azienda al di fuori degli Stati Uniti. Il sito disporrà di una potenza di calcolo dell'ordine dei gigawatt e l'apertura è prevista per luglio 2028. Con l'arrivo di un'infrastruttura per l'IA di questo tipo, le autorità di regolamentazione vogliono che siano prima in vigore norme sulla sicurezza dei contenuti.

I critici mettono in guardia contro una “censura rapida”

Le scadenze ristrette preoccupano i difensori della libertà di parola. L'Internet Freedom Foundation affermachela finestra di tre ore per la rimozione dei contenuti costringerà le aziende a utilizzare sistemi automatizzati che eliminano per errore troppi contenuti. Lo definiscono un sistema di "censura a raffica" perché c'è tempo per gli esseri umani di esaminare adeguatamente le segnalazioni.

Piattaforme come X, che non hanno ancora implementato alcun sistema di etichettatura basato sull'IA, hanno ora solo nove giorni per costruire interi sistemi da zero. Meta, Google e X hanno rifiutato di commentare. è rimasta in silenzio Anche.

Sembra che i funzionari che stanno redigendo le norme siano consapevoli che la tecnologia attuale non è ancora pronta. I requisiti stabiliscono che le piattaforme debbano utilizzare metodi di rilevamento "nella misura in cui ciò sia tecnicamente fattibile", un linguaggio giuridico che ammette che non aspetta la perfezione. I leader indiani credono chela pressionestimolerà l'innovazione. Scommettono che, costringendo le aziende tecnologiche a costruire sistemi migliori o a perdere l'accesso a centinaia di milioni di utenti, troveranno una soluzione rapidamente.

se una tecnologia di rilevamento basata sull'intelligenza artificiale più avanzata esista davvero e possa essere sviluppata, o se l'India sia limitata a commissionare alle aziende qualcosa che non è realizzabile al momento Resta da vedere scopriremo tra nove giorni.