La Cyberspace Administration of China sta valutando l'idea di etichettare tutti i contenuti creati dall'intelligenza artificiale nell'ambito di una nuova bozza di regolamento. Secondo quanto riportato, l'autorità di regolamentazione, ovvero l'autorità cinese per la sicurezza di Internet, ha già predisposto una bozza di piano che richiede a tutte le piattaforme digitali e ai fornitori di servizi online di aggiungere il marchio AI ai contenuti generati dall'intelligenza artificiale.
In un annuncio del 14 settembre, l'ente regolatore ha affermato che questa mossa avrebbe standardizzato il processo di identificazione dei dent generati dall'intelligenza artificiale e avrebbe protetto la sicurezza nazionale e gli interessi degli individui e delle organizzazioni che utilizzano le piattaforme.
L'autorità di regolamentazione ha pubblicato una bozza di legge aperta ai commenti del pubblico fino al 14 ottobre. Secondo l'annuncio, il pubblico può inviare commenti via e-mail all'indirizzo [email protected] o per lettera al Network Management Technology Bureau dell'Ufficio statale per le informazioni su Internet.
Sebbene i commenti del pubblico potrebbero avere un impatto sulla bozza finale delle regole, gli esperti ritengono che le regole proposte verrebbero probabilmente approvate nella loro forma attuale con modifiche minime, poiché le autorità cinesi non sono note per apportare modifiche drastiche alle bozze delle regole in base ai commenti.
Le bozze di regolamento richiedono l'aggiunta di loghi e messaggi vocali ai contenuti AI
La bozza di norma propone che qualsiasi file di testo, video o immagine creato dall'intelligenza artificiale includa un logo che ne indichi la natura generata, avvisando efficacemente chiunque si imbatta in tale contenuto. Per garantire che gli utenti notino l'etichetta, la norma prevede che venga visualizzata all'inizio, alla fine e in altri momenti rilevanti all'interno di un video.
Per i file audio, i creatori devono aggiungere messaggi vocali che informino gli utenti quando stanno per ascoltare contenuti generati dall'IA, notificando loro varie parti del contenuto audio. Tutti i software che riproducono contenuti audio dovrebbero inoltre disporre di messaggi vocali che informino gli utenti quando iniziano ad ascoltare contenuti generati dall'IA.
L'articolo 4 delle norme proposte recita:
"Se il servizio di sintesi generativa fornito dal fornitore del servizio rientra nel primo paragrafo dell'articolo 17 del Regolamento sulla gestione della sintesi approfondita dei servizi di informazione Internet, al contenuto della sintesi generata deve essere aggiunto un logo esplicito in conformità con i seguenti requisiti."
Nel frattempo, la bozza di norma richiede anche che i metadati incorporati in un file indichino che è generato dall'intelligenza artificiale, rendendo possibile l'etichettatura di tale contenuto. Tuttavia, in assenza di metadati, spetterebbe ai fornitori di servizi analizzare il contenuto ed etichettarlo come tale se si sospetta che sia generato dall'intelligenza artificiale.
Le regole si applicano anche agli utenti cinesi di Internet. Chi pubblica contenuti generati dall'intelligenza artificiale deve etichettarli. Quando utilizzano strumenti di intelligenza artificiale su altre piattaforme, la legge proposta richiede loro di fornire le proprie informazioni personali e la piattaforma di generazione dell'intelligenza artificiale conserverà un registro delle loro attività per sei mesi.
Nel frattempo, la bozza del piano include anche requisiti secondo cui la piattaforma di social media deve condividere con altri la propria tecnologia per il rilevamento di contenuti di intelligenza artificiale, una mossa pensata per standardizzare il processo e migliorare la capacità di rilevare contenuti di intelligenza artificiale.
Le nuove regole non sorprendono, dato che la moderazione dei contenuti è sempre stata un aspetto cruciale dell'uso di Internet in Cina. Tuttavia, l'attenzione ai contenuti generati dall'intelligenza artificiale sembra essere più rilevante di fronte al fatto che deepfake e altri contenuti generati dall'intelligenza artificiale vengono utilizzati da molti per commettere frodi e altre attività illegali.
Diverse piattaforme di social media popolari al di fuori della Cina, tra cui Facebook, Instagram e TikTok, etichettano già i contenuti basati sull'intelligenza artificiale come parte della loro moderazione. Tuttavia, i loro strumenti di rilevamento non sono stati perfetti, poiché numerosi contenuti iperrealistici sfuggono ancora ai tag dell'intelligenza artificiale su queste piattaforme
