L'IA genera fake news portando all'arresto di un uomo in Cina: rapporto

Un uomo noto solo come “Hong” è stato arrestato nel distretto del Gansu in Cina dopo aver presumibilmente utilizzato il servizio ChatGPT per generare notizie false. L'arresto di Hong è arrivato dopo un'indagine su un articolo non verificato relativo a un incidente ferroviario è stato scoperto su un popolare sito di blogging ospitato dal conglomerato tecnologico cinese Baidu. Gli specialisti di cybersecurity hanno scoperto che almeno 20 account avevano pubblicato simultaneamente l'articolo di notizie false, portando all'arresto di Hong.

Cina ha alcune delle leggi più severe al mondo riguardo all'uso dei social media, e Hong è stato arrestato per “aver utilizzato la tecnologia di intelligenza artificiale per concoctare informazioni false e non vere”, violando un ordinanza contro “creare disordini e provocare guai”, che copre specificamente la diffusione di notizie false e pettegolezzi su internet. Se accusato, Hong rischia fino a cinque anni di prigione ai sensi della legge ordinaria, ma potrebbe essere condannato a fino a 10 anni se i tribunali considerano l'offesa particolarmente grave.

Sebbene il servizio ChatGPT sia attualmente bandito in Cina, il suo uso può essere oscurato dalle reti private virtuali (VPN). Tuttavia, i servizi di IA domestici, come il 'Tongyi Qianwen' di Alibaba, che è stato recentemente annunciato come un modello di IA generativa addestrato a rispondere alle domande sia in inglese che in mandarino, hanno ricevuto l'approvazione del governo cinese. Rimane unclear se Tongyi Qianwen avrà le stesse capacità creative di ChatGPT.

Crescente preoccupazione per l'abuso della tecnologia di IA

La mancanza di modelli robusti di intelligenza artificiale generativa in Cina potrebbe potenzialmente avere un effetto raffreddante sulla scena tecnologica della nazione, in particolare in settori come la fintech e il trading di criptovalute, dove l'uso di ChatGPT e prodotti costruiti sull'API GPT di OpenAI è esploso in popolarità. È probabile che il governo cinese continui a monitorare l'uso delle tecnologie di intelligenza artificiale e a reprimere coloro che le utilizzano per diffondere informazioni false.

L'incidente evidenzia anche la crescente preoccupazione per l'abuso della tecnologia di intelligenza artificiale. Sebbene l'intelligenza artificiale abbia un enorme potenziale per trasformare una serie di industrie, presenta anche rischi significativi. La capacità di generare rapidamente e facilmente notizie false convincenti potrebbe avere gravi conseguenze sulla fiducia pubblica nei media e nel governo. Man mano che l'intelligenza artificiale continua a progredire, è cruciale sviluppare strategie efficaci per prevenirne l'abuso e garantire che venga utilizzata per il bene pubblico.