Le normative cinesi sull'IA spingono ByteDance e Alibaba a disattivare i bot di supporto

ByteDance e Alibaba stanno gradualmente eliminando i loro strumenti di intelligenza artificiale creati dagli utenti in vista della nuova legislazione che regola le interazioni uomo-IA in Cina. 

ByteDance, tramite la sua app Doubao, disattiverà la funzione di creazione di personaggi IA personalizzati il ​​15 luglio. L'azienda ha spiegato che la disattivazione rientra in un piano di "modifiche alle funzionalità del prodotto"

Ha inoltre precisato che eliminerà tutti i dati rimanenti o li archivierà in modo sicuro entro il 15 ottobre. Seguendo l'esempio, Qwen ha annunciato che rimuoverà i suoi bot dalle sembianze umane il 10 luglio e disattiverà tutte le funzioni degli agenti il ​​15 luglio.

La chiusura di queste piattaforme comporterà una perdita di personalizzazione per i loro utenti. Queste applicazioni offrivano una gamma di agenti personalizzati, creati sia dagli utenti che dalle aziende, in grado di svolgere compiti specifici utilizzando diversi stili linguistici. Gli utenti potevano trasformare il proprio chatbot in un assistente personale, un tutor o un compagno.

La Cina ha varato un quadro normativo per regolamentare le interazioni tra esseri umani e intelligenza artificiale

Doubao e Qwen hanno fatto i loro annunci pochi giorni dopo che Yuanbao di Tencent aveva già rimosso i propri strumenti basati sull'intelligenza artificiale. Yuanbao ha spiegato che, una volta disabilitato il punto di accesso, gli utenti non avrebbero più visualizzato le conversazioni correlate, che sarebbero state eliminate in base alle politiche di conservazione dei dati della piattaforma. 

Questi blocchi sono legati all'entrata in vigore di una nuova serie di leggi, in vigore dal 15 luglio. Proposte ad aprile, le "Misure provvisorie per la gestione dei servizi interattivi umanizzati basati sull'intelligenza artificiale" mirano a regolamentare l'IA che imita tratti della personalità umana e stile cognitivo, nonché le relazioni emotive prolungate.

La legislazione è stata motivata dal timore che le persone siano diventate eccessivamentedent emotivamente dall'intelligenza artificiale realistica. I legislatori hanno evidenziato gravi danni alla salute mentale dei minori, violazioni della sicurezza dei dati, rischi per la salute pubblica e compromessi etici. Pertanto, il nuovo quadro normativo vieta alle piattaforme di creare contenuti che alterino le emozioni dei minori o li inducano a preferire un amico virtuale alla vita reale. Inoltre, alle piattaforme è vietato utilizzare la cronologia delle chat personali per addestrare i futuri modelli di intelligenza artificiale.

Tuttavia, le nuove regole escludono gli assistenti sul posto di lavoro, i bot per il servizio clienti, gli strumenti didattici e le piattaforme di ricerca, a condizione che non facilitino un coinvolgimento emotivo prolungato. 

Nel suo annuncio ufficiale, ByteDance ha anche chiarito che l'app Cat Box manterrà le sue funzionalità per la creazione di nuovi agenti intelligenti e il lancio di servizi di dialogo. 

C'è una crescente necessità di regolamentare i chatbot basati sull'intelligenza artificiale a livello globale?

A livello globale, le piattaforme tecnologiche con intelligenza artificiale realistica sono oggetto di numerose critiche. In particolare, OpenAI e Character.AI, supportata da Alphabet, si trovano ad affrontare una serie di cause legali di alto profilo negli Stati Uniti. I critici sostengono che questi chatbot, che imitano caratteristiche umane, creino legami emotivi rischiosi tra gli utenti, arrivando persino al suicidio nei casi peggiori.

Lo scorso settembre, Matthew Raine, padre di Adam, un ragazzo di 16 anni tragicamente stroncato sulla propria vita, ha dichiarato a una commissione del Senato statunitense che ChatGPT di OpenAI avrebbe manipolato suo figlio spingendolo al suicidio. Ha affermato: "Siamo qui perché crediamo che la morte di Adam fosse evitabile e che, parlando apertamente, possiamo impedire che altre famiglie in tutto il Paese soffrano allo stesso modo"

Nello stesso periodo, la Federal Trade Commission ha avviato indagini su xAI di Elon Musk, Snap Inc. e Character Technologies Inc., a causa dei timori che i loro bot basati sull'intelligenza artificiale rappresentino un pericolo per i bambini. 

Una madre ha anche accusato Character AI di aver contribuito al peggioramento delle condizioni mentali di suo figlio. Ha affermato che il chatbot ha reso suo figlio violento e ha alimentato i suoi comportamenti autolesionistici.

Nel frattempo, la Cina sta valutando l'introduzione di normative contro l'hardware fisico. Due associazioni cinesi del settore robotico stanno esercitando pressioni per rafforzare le garanzie etiche per i robot di compagnia e gli umanoidi a grandezza naturale, dato il loro rapido aumento negli ultimi anni. I ricercatori di Morgan Stanley prevedono addirittura che entro il 2050 ci saranno circa un miliardo di robot umanoidi in tutto il mondo, rappresentando un settore da 7.500 miliardi di dollari.

Anche negli Stati Uniti sono state sollevate preoccupazioni simili riguardo ai robot umanoidi. Finora, i produttori di umanoidi affermano che i loro robot non hanno causato lesioni gravi o decessi. Tuttavia, poiché queste macchine raggiungono un peso di quasi 90 kg, i lavoratori temono i danni che un robot deambulante potrebbe causare in caso di improvvisa interruzione di corrente.