Uomo cinese arrestato per aver usato ChatGPT per scrivere notizie false

In un caso rivoluzionario che coinvolge l'intelligenza artificiale (IA), un uomo in Cina è stato arrestato per aver presumibilmente utilizzato ChatGPT per fabricare un articolo di notizie falso su un incidente ferroviario che ha causato nove morti.

Questo segna la prima azione di enforcement intrapresa in Cina sotto una legge senza precedenti relativa all'IA, evidenziando gli sforzi della nazione per regolare e controllare l'uso di tecnologie avanzate.

L'incidente delle notizie false di ChatGPT

Un uomo identificato solo come Hong è stato detenuto dalla polizia nella provincia del Gansu, nel nord-ovest della Cina, per aver presumibilmente creato una storia di notizie falsa su un incidente ferroviario utilizzando ChatGPT.

L'articolo falso è stato pubblicato su una piattaforma di blogging di proprietà del gigante cinese della ricerca Baidu da oltre 20 account e ha amassed oltre 15.000 visualizzazioni.

Per aggirare i controlli di duplicazione sulla piattaforma, a Hong è stato accusato di utilizzare ChatGPT per generare versioni leggermente diverse dell'articolo di notizie false.

Sviluppato da OpenAI con sede negli Stati Uniti, ChatGPT è un chatbot che utilizza la tecnologia di IA generativa. Questa tecnologia consente al software di generare risposte basate su prompt e domande degli utenti, come la creazione di una storia da istruzioni specifiche.

Sebbene ChatGPT sia bloccato in Cina, può ancora essere accessibile tramite una rete privata virtuale (VPN), che può aggirare le restrizioni internet del paese.

In risposta alla crescente popolarità e ai potenziali rischi dell'IA come ChatGPT, le autorità cinesi hanno introdotto quest'anno una legge di prima categoria che regola le "tecnologie di sintesi profonda".

La legge comprende l'uso dell'IA per generare testo, immagini, video o altri media, e vieta la diffusione di notizie false attraverso servizi di sintesi profonda.

L'approccio cauto dei giganti tecnologici cinesi

Mentre ChatGPT ha guadagnato trazione e è diventato virale, il panorama internet pesantemente censurato e controllato della Cina ha spinto il governo a creare leggi che affrontano le nuove tecnologie che potrebbero presentare sfide alle autorità centrali.

Di conseguenza, i giganti della tecnologia cinese sono stati cauti nel loro approccio alle applicazioni di IA, evitando la disponibilità diffusa di chatbot come ChatGPT e concentrandosi invece su casi d'uso specifici.

Alibaba, ad esempio, sta lavorando al suo prodotto di IA Tongyi Qianwen, che verrà infine implementato nel suo software di comunicazione sul posto di lavoro DingTalk e in Tmall Genie, un fornitore di elettrodomestici intelligenti.

Questo approccio strategico è considerato una risposta alle preoccupazioni dei regolatori e del governo.

L'arresto di Hong ai sensi della nuova legge che regola le tecnologie di sintesi profonda serve come un monito netto delle potenziali conseguenze dell'uso improprio dell'IA in Cina.

Mentre la tecnologia continua a progredire, è fondamentale per nazioni come la Cina stabilire linee guida e regolamenti che affrontino le minacce potenziali poste dall'IA, specialmente nel regno delle notizie false e della disinformazione.

Lo sviluppo in corso di chatbot e applicazioni basati sull'IA da parte dei giganti tecnologici cinesi probabilmente continuerà sotto attenta supervisione, con un focus su casi d'uso specifici per evitare di allarmare i regolatori e il governo.

Man mano che la tecnologia IA evolve e diventa più sofisticata, trovare un equilibrio tra innovazione e regolamentazione sarà cruciale per garantire un panorama digitale sicuro e affidabile.