Un uomo conosciuto solo come "Hong" è stato arrestato nel distretto cinese di Gansu dopo aver presumibilmente utilizzato il servizio ChatGPT per generare notizie false. L'arresto di Hong è avvenuto dopo che un'indagine su un articolo infondato relativo a un incidente ferroviario è stato scoperto su un popolare sito di blog ospitato dal conglomerato tecnologico cinese Baidu. Gli specialisti di sicurezza informatica hanno scoperto che almeno 20 account avevano pubblicato contemporaneamente l'articolo di notizie false, portando all'arresto di Hong.
La Cina ha alcune delle leggi più severe al mondo riguardo all’uso dei social media, e Hong è stato arrestato per “aver utilizzato la tecnologia dell’intelligenza artificiale per inventare informazioni false e non vere”, in contrasto con un’ordinanza contro “litigi e provocazione di problemi”, che riguarda specificamente la diffusione di notizie false e voci su Internet. Se accusato, Hong rischia fino a cinque anni di carcere secondo lo statuto normale, ma potrebbe essere condannato fino a 10 anni se i tribunali ritenessero il reato particolarmente grave.
Sebbene il servizio ChatGPT sia attualmente vietato in Cina, il suo utilizzo può essere offuscato dalle reti private virtuali (VPN). Tuttavia, i servizi di intelligenza artificiale nostrani , come “Tongyi Qianwen” di Alibaba, recentemente annunciato come modello di intelligenza artificiale generativa addestrato a rispondere a domande sia in inglese che in mandarino, hanno ricevuto la benedizione del governo cinese. Non è chiaro se Tongyi Qianwen avrà le stesse capacità creative di ChatGPT.
Crescente preoccupazione per l’uso improprio della tecnologia IA
La mancanza di robusti modelli di intelligenza artificiale generativa in Cina potrebbe potenzialmente avere un effetto dissuasivo sulla scena tecnologica nazionale, in particolare in settori come il fintech e il trading di criptovalute, dove l’uso di ChatGPT e dei prodotti basati sull’API GPT di OpenAI è esploso in popolarità. È probabile che il governo cinese continui a monitorare l’uso delle tecnologie di intelligenza artificiale e a reprimere coloro che le utilizzano per diffondere informazioni false.
L’ dent evidenzia anche la crescente preoccupazione per l’uso improprio della tecnologia dell’intelligenza artificiale. Sebbene l’intelligenza artificiale abbia un enorme potenziale per trasformare una vasta gamma di settori, comporta anche rischi significativi. La capacità di generare notizie false convincenti in modo rapido e semplice potrebbe avere gravi conseguenze sulla fiducia del pubblico nei media e nel governo. Poiché l’intelligenza artificiale continua ad avanzare, è fondamentale sviluppare strategie efficaci per prevenirne l’uso improprio e garantire che venga utilizzata per il bene pubblico.
