La Cina dice no ai chatbot AI per suicidio e gioco d'azzardo

Le autorità di regolamentazione cinesi stanno pianificando un giro di vite sui chatbot basati sull'intelligenza artificiale, che spingono le persone a comportamenti suicidi, autolesionismo e gioco d'azzardo. Questo sviluppo arriva mentre due importanti aziende cinesi di chatbot hanno recentemente presentato domanda di IPO a Hong Kong.

Secondo alcune indiscrezioni, le nuove misure proposte e annunciate sabato si applicheranno ai prodotti o servizi di intelligenza artificiale offerti al pubblico in Cina, che simulano la personalità umana e coinvolgono emotivamente gli utenti tramite testi, immagini, audio o video.

Le proposte della Cina dovrebbero proteggere i minori dall'autolesionismo

Secondo la bozza di regolamento pubblicata sabato dall'Amministrazione per il Cyberspazio, le nuove norme sono rivolte a quelli che l'agenzia ha definito "servizi di intelligenza artificiale interattiva di tipo umano", come riportato di CNBC del documento in lingua cinese.

La bozza di regolamento contiene diverse proposte. Ad esempio, i chatbot basati sull'intelligenza artificiale non possono generare contenuti che incoraggino l'autolesionismo o il suicidio, né ricorrere alla violenza verbale o alla manipolazione emotiva che possa danneggiare la salute mentale degli utenti.

Inoltre, i chatbot basati sull'intelligenza artificiale non dovrebbero creare contenuti osceni, violenti o relativi al gioco d'azzardo. Secondo la bozza di regolamento, se un utente propone il suicidio, l'azienda che si occupa dell'intelligenza artificiale dovrebbe inviare un essere umano che prenda il controllo della conversazione e contatti immediatamente il tutore dell'utente o una persona designata.

La bozza di regolamento propone inoltre che i minori debbano ottenere il consenso del tutore per l'utilizzo di servizi di compagnia emotiva, con limiti di tempo per l'utilizzo. In base alle nuove norme, le piattaforme di intelligenza artificiale dovrebbero stabilire se un utente è adulto o minorenne, anche se non ne rivela l'età. In caso di dubbi, le piattaforme devono applicare impostazioni per i minori, pur consentendo ricorsi.

Una volta finalizzate, queste norme segnerebbero il primo tentativo al mondo di regolamentare l'intelligenza artificiale con caratteristiche umane o antropomorfe, secondo Winston Ma, professore alla facoltà di giurisprudenza della New York University. Questi sviluppi si verificano mentre le aziende hanno rapidamente sviluppato compagni di intelligenza artificiale e celebrità digitali.

Confrontando questa versione con la normativa cinese sull'intelligenza artificiale generativa del 2023, Ma ha affermato che questa versione "evidenzia un salto dalla sicurezza dei contenuti a quella emotiva"

Le proposte arrivano mentre due startup cinesi di chatbot AI, Z.ai e Minimax, hanno presentato questo mese domanda di offerta pubblica iniziale (IPO) a Hong Kong. Minimax è nota a livello internazionale per la sua app Talkie AI, che consente agli utenti di chattare con personaggi virtuali.

Secondo la CNBC, l'app e la sua versione cinese nazionale, nota come Xingye, hanno rappresentato più di un terzo del fatturato dell'azienda nei primi tre trimestri dell'anno, con una media di oltre 20 milioni di utenti attivi mensili durante quel periodo.

Per quanto riguarda Z.ai, nota anche come Zhipu, è stata registrata con il nome di Knowledge Atlas Technology, ma non ha rivelato i suoi utenti attivi mensili. Tuttavia, l'azienda di intelligenza artificiale ha rivelato che la sua tecnologia è installata su circa 80 milioni di dispositivi, tra cui smartphone, personal computer e veicoli intelligenti.

Come precedentemente riportato da Cryptopolitan, le due startup di intelligenza artificiale, entrambe supportate da Alibaba e Tencent, puntano a quotarsi in borsa all'inizio di gennaio del prossimo anno alla Borsa di Hong Kong.