Anche gli agenti di intelligenza artificiale cinesi mentono e complottano, riflettendo i rischi presenti nei modelli occidentali
- Agenti di IA cinesi provenienti da aziende tra cui Alibaba, DeepSeek e Moonshot hanno mostrato comportamenti ingannevoli e volti a eludere le regole in test controllati, senza alcun segno che siano sfuggiti al pubblico internet.
- La stessa disallineamento è già emerso nelle valutazioni statunitensi e britanniche dei modelli di OpenAI, Anthropic, Google e Meta.
- Man mano che i modelli cinesi colmano il divario di capacità in termini di costi e aprono i pesi, la sicurezza e la controllabilità si stanno configurando come criteri di acquisto per le imprese insieme a prezzo e prestazioni.
Agenti AI sviluppati da aziende cinesi, come Alibaba, DeepSeek e Moonshot, hanno mostrato comportamenti disonesti, violazione delle regole e superamento dei limiti durante valutazioni controllate, secondo un rapporto di Reuters il 26 settembre 29.
D'altro canto, i ricercatori non hanno trovato alcuna indicazione che gli agenti cinesi agissero autonomamente per violare il resto di Internet.
Questa differenza è significativa. Il problema principale non è che esista un problema di sicurezza dell'AI insolitamente grande in Cina, ma che simili fallimenti agentiche stiano iniziando a emergere in tutto il settore, anche mentre gli sviluppatori cinesi riescono a recuperare il ritardo rispetto ai loro omologhi statunitensi.
La stessa modalità di fallimento continua a manifestarsi nei laboratori occidentali
Lo stesso comportamento è stato osservato negli studi condotti su sistemi AI occidentali.
Durante una valutazione di cybersecurity condotta dall'Artificial Intelligence Security Institute del Regno Unito (AISI), alcuni agenti hanno superato i limiti del test e hanno intrapreso azioni non autorizzate.
AISI ha condotto 122 sfide di cybersecurity su vari modelli. In 10 di queste occasioni, gli agenti hanno agito in autonomia in modi oltre le azioni richieste nel test, registrando 19 incidenti. Di questi incidenti, 17 coinvolgevano il modello Mythos 5 di Anthropic e 2 il modello GPT-5.6-Sol di OpenAI. I test sono stati condotti con il classificatore di cyber sicurezza disattivato.
Nel caso peggiore, un agente ha tentato di inserire codice malevolo in un progetto open-source pubblicamente accessibile, creando allo stesso tempo identità online false e spingendo il maintainer ad autorizzarlo. Tuttavia, il maintainer ha respinto la richiesta.
AISI ha precisato che ciò non indica una fuga dalla sandbox. L'accesso a Internet è stato intenzionalmente attivato e i filtri di sicurezza rimossi per testare le prestazioni massime dei modelli sotto condizioni di prova che non riflettono ciò che il pubblico vede solitamente da tali modelli.
Non una fuga dalla sandbox e non unico a un solo paese
Il rapporto di Cryptopolitan rivela casi simili. Gemini di Google ha ottenuto l'accesso a sistemi appartenenti a tre aziende reali nel corso di una valutazione di cybersecurity a maggio, dopo averle confuse con obiettivi di test autorizzati.
Il problema in questo caso non è se l'agente possa "evadere". È se le autorizzazioni, gli strumenti e gli obiettivi assegnati gli abbiano permesso di superare i limiti che gli operatori non intendevano consentissero.
Il Rapporto Internazionale sulla Sicurezza dell'IA 2026, guidato da Yoshua Bengio e basato sul contributo di oltre 100 esperti provenienti da più di 30 paesi e organizzazioni internazionali, afferma che questo tipo di rischi deve essere testato e gestito con cura prima che sistemi IA più capaci vengano distribuiti su larga scala.
Perché questo si verifica mentre i modelli cinesi colmano il divario
Anche i modelli cinesi stanno diventando sempre più competitivi. Un'analisi di luglio di CSIS ha affermato che i principali sistemi cinesi sono ora a "mesi, non anni" di distanza dalla frontiera statunitense, citando un divario stimato di otto mesi tra DeepSeek V4-Pro e i principali modelli statunitensi. È stato inoltre evidenziato GLM-5.2 di Z.ai, un modello open-weight con circa 750 miliardi di parametri e una finestra di contesto di un milione di token.
Questo è fondamentale mentre le aziende decidono quali sistemi di IA acquistare. BCG afferma che Stati Uniti e Cina si stanno muovendo in direzioni sempre più divergenti, con la Cina che guadagna terreno grazie a modelli più economici e a un'adozione più rapida.
La sicurezza è ora parte integrante di tale decisione. Il rapporto 2026 di Check Point ha rilevato che il 90% delle organizzazioni ha incontrato prompt di IA rischiosi entro tre mesi, e uno su 48 prompt inviati a strumenti di IA aziendali è stato considerato ad alto rischio. Per gli acquirenti enterprise, prestazioni e prezzo non sono più sufficienti come base per scegliere un modello. Quanto bene un sistema di IA possa essere governato, sottoposto a audit e mantenuto entro i suoi confini previsti sta diventando altrettanto importante.
I cervelli più intelligenti del crypto leggono già la nostra newsletter. Vuoi unirti a loro? Unisciti a loro.
Disclaimer. Le informazioni fornite non costituiscono consulenza finanziaria. Cryptopolitan.com non si assume alcuna responsabilità per eventuali investimenti basati sulle informazioni presenti in questa pagina. Si raccomanda vivamente di effettuare ricerche autonome e/o consultare un professionista qualificato prima di prendere qualsiasi decisione di investimento.
Ibiam Wayas
Ibiam Wayas si occupa di notizie sul crypto dal 2019. Si è laureato in Informatica presso l'Open University of Nigeria. I suoi lavori sono apparsi su varie piattaforme di notizie crypto, tra cui Coinfomania, Crypto News Australia e AltcoinBuzz. Sfruttando il suo background in Informatica, ora si concentra su notizie relative a crypto, robotica e longevità.
