L'intelligenza artificiale genera fake news che portano all'arresto di un uomo in Cina: rapporto

Un uomo conosciuto solo come "Hong" è stato arrestato nella provincia di Gansu, in Cina, con l'accusa di aver utilizzato il servizio ChatGPT per generare notizie false. L'arresto di Hong è avvenuto in seguito a un'indagine su un articolo infondato riguardante un incidente ferroviario, scoperto su un popolare sito di blogging gestito dal colosso tecnologico cinese Baidu. Gli esperti di sicurezza informatica hanno scoperto che almeno 20 account avevano pubblicato simultaneamente la notizia falsa, portando all'arresto di Hong.

La Cina ha alcune delle leggi più severe al mondo sull'uso dei social media e Hong è stato arrestato per "aver utilizzato la tecnologia dell'intelligenza artificiale per creare informazioni false e non veritiere", violando un'ordinanza contro "l'istigazione alla lite e la provocazione di disordini", che include specificamente la diffusione di notizie false e voci infondate su internet. Se incriminato, Hong rischia fino a cinque anni di carcere secondo la legge ordinaria, ma potrebbe essere condannato fino a 10 anni se i tribunali riterranno il reato particolarmente grave.

Sebbene il servizio ChatGPT sia attualmente vietato in Cina, il suo utilizzo può essere mascherato tramite reti private virtuali (VPN). Tuttavia, i servizi di intelligenza artificiale sviluppati localmente, come "Tongyi Qianwen" di Alibaba, recentemente annunciato come un modello di intelligenza artificiale generativa addestrato a rispondere a domande sia in inglese che in mandarino, hanno ricevuto l'approvazione del governo cinese. Resta da vedere se Tongyi Qianwen avrà le stesse capacità creative di ChatGPT.

Crescente preoccupazione per l'uso improprio della tecnologia AI

La mancanza di solidi modelli di intelligenza artificiale generativa in Cina potrebbe potenzialmente avere un effetto destabilizzante sul panorama tecnologico nazionale, in particolare in settori come il fintech e il trading di criptovalute, dove l'uso di ChatGPT e dei prodotti basati sull'API GPT di OpenAI ha registrato un'enorme popolarità. È probabile che il governo cinese continuerà a monitorare l'uso delle tecnologie di intelligenza artificiale e a reprimere chi le utilizza per diffondere false informazioni.

L'dent evidenzia anche la crescente preoccupazione per l'uso improprio della tecnologia dell'intelligenza artificiale. Sebbene l'intelligenza artificiale abbia un enorme potenziale per trasformare una vasta gamma di settori, presenta anche rischi significativi. La capacità di generare notizie false convincenti in modo rapido e semplice potrebbe avere gravi conseguenze sulla fiducia del pubblico nei media e nel governo. Con il continuo progresso dell'intelligenza artificiale, è fondamentale sviluppare strategie efficaci per prevenirne l'uso improprio e garantire che venga utilizzata per il bene pubblico.