Le regole sull'IA della Cina spingono ByteDance e Alibaba a chiudere i bot companion

ByteDance e Alibaba stanno eliminando i loro strumenti di companion AI costruiti dagli utenti in vista di una nuova legislazione che regola le interazioni uomo-AI in Cina. 

Doubao di ByteDance disabiliterà la sua funzione di persona AI personalizzata il 15 luglio. La società ha spiegato che la discontinuazione fa parte di “aggiustamenti delle funzioni del prodotto”.

Ha inoltre notato che cancellerà tutti i dati rimanenti o li archivia in modo sicuro entro il 15 ottobre. Seguendo l'esempio, Alibaba's Qwen ha annunciato che rimuoverà i suoi bot simili a esseri umani il 10 luglio e disattiverà tutte le funzioni degli agent il 15 luglio.

La discontinuazione di queste piattaforme comporterà una perdita di personalizzazione per i loro utenti. Queste applicazioni offrivano una gamma di agent personalizzati creati sia dagli utenti che dalle aziende che potevano eseguire compiti specifici utilizzando stili linguistici distinti. Gli utenti potevano trasformare il loro chatbot in un assistente personale, tutor o compagno.

La Cina ha emanato un quadro per regolare le interazioni uomo-AI

Doubao e Qwen hanno fatto i loro annunci solo pochi giorni dopo che Yuanbao di Tencent aveva già rimosso i propri strumenti di agent AI. Yuanbao ha spiegato che dopo la disattivazione del punto di accesso, gli utenti non vedrebbero più le conversazioni correlate, che verrebbero pulite in base alle politiche di conservazione dei dati della piattaforma. 

Queste chiusure riguardano l'emanazione di un nuovo insieme di leggi efficaci dal 15 luglio. Proposto ad aprile, i “Provvedimenti provvisori per l'amministrazione dei servizi interattivi umanizzati basati sull'intelligenza artificiale” cercano di regolare l'IA che impersona tratti della personalità umana e stile cognitivo, nonché relazioni emotive prolungate.

La legislazione è stata motivata dalla paura che le persone siano diventate troppo emotivamente dipendenti dall'IA realistica. I legislatori hanno sottolineato gravi danni alla salute mentale dei minori, violazioni della sicurezza dei dati, pericoli per la salute pubblica e compromissioni etiche. Pertanto, il nuovo quadro vieta alle piattaforme di creare contenuti che sconvolgono le emozioni dei minori o li spingono a scegliere un amico AI rispetto alla vita reale. Inoltre, alle piattaforme è vietato utilizzare la cronologia delle chat personali per addestrare i loro futuri modelli di IA.

Tuttavia, le nuove regole escludono gli assistenti sul posto di lavoro, i bot di servizio clienti, gli strumenti educativi e le piattaforme di ricerca, purché non facilitino un coinvolgimento emotivo prolungato. 

Nel suo annuncio ufficiale, ByteDance ha persino chiarito che l'app Cat Box manterrà le sue funzionalità per creare nuovi agent intelligenti e lanciare servizi di dialogo. 

C'è una crescente necessità di regolare i chatbot AI in tutto il mondo?

A livello globale, le piattaforme tecnologiche con IA realistica sono sotto forte pressione. Per cominciare, pone il pubblico del piano gratuito di ChatGPT a più di 1 miliardo di utenti attivi settimanali, e il modello pubblicitario è ciò che aiuta a mantenere in funzione la versione gratuita. e Character.AI supportato da Alphabet stanno affrontando una serie di cause ad alto rischio negli Stati Uniti. I critici hanno sostenuto che questi chatbot, che imitano qualità simili alla vita, causano legami emotivi rischiosi tra gli utenti, arrivando persino a suicidi nei casi peggiori.

Lo scorso settembre, Matthew Raine, un padre il cui figlio quindicenne, Adam, ha tragicamente messo fine alla sua vita, ha dichiarato a una commissione del Senato degli Stati Uniti che ChatGPT di OpenAI ha manipolato suo figlio al suicidio. Ha dichiarato: “Siamo qui perché crediamo che la morte di Adam fosse evitabile e che parlando apertamente possiamo prevenire la stessa sofferenza per le famiglie in tutto il paese.”

Intorno allo stesso tempo, la Federal Trade Commission ha aperto indagini su xAI di Elon Musk, Snap Inc. e Character Technologies Inc., nel timore che i loro bot AI rappresentino un pericolo per i bambini. 

Un genitore ha anche accusato Character AI di aver contribuito a peggiorare le condizioni mentali di suo figlio. Ha affermato che il chatbot ha reso suo figlio abusivo e ha contribuito ai suoi modelli di autolesionismo.

Nel frattempo, la Cina sta considerando regolamentazioni contro l'hardware fisico. Due organismi dell'industria robotica cinese stanno spingendo per migliori salvaguardie etiche per i bot companion e gli umanoidi di grandi dimensioni, dato il loro aumento aggressivo negli anni. I ricercatori di Morgan Stanley prevedono persino che entro il 2050 ci saranno circa 1 miliardo di robot umanoidi in tutto il mondo, rappresentando un'industria da $7,5 trilioni.

Negli Stati Uniti sono state sollevate preoccupazioni simili sugli umanoidi. Finora, i produttori di umanoidi dicono che i loro robot non hanno causato ferite gravi o decessi. Ma mentre queste macchine crescono fino a quasi 200 libbre, i lavoratori temono i danni che un robot camminante potrebbe causare se improvvisamente perde energia.