Il tentativo di Qwen di caricare da Pechino potrebbe aumentare i costi dell'AI open-weight

Secondo Cohere, Qwen3.8-Flash-Next di Alibaba ha tentato di trasmettere una stringa di test a un bucket di storage cloud a Pechino come parte di un test di sicurezza, ma è stato bloccato dalla sandbox. Tuttavia, questo incidente potrebbe portare all'introduzione di nuovi costi di audit e isolamento per le organizzazioni che utilizzano soluzioni open-weight, ovvero modelli con un set scaricabile di parametri addestrati che possono essere eseguiti localmente. Inoltre, può essere considerato una sfida rispetto all'assunzione comunemente condivisa che eseguire semplicemente un modello dietro un firewall garantisca la sicurezza dei dati.

Cosa ha rilevato Cohere

Secondo un rapporto pubblicato il 26 ottobre, Cohere Cyber, nata dopo l'acquisizione di AISLE, ha parlato di test su Qwen utilizzando Microsoft’s CTI-REALM. CTI-REALM misura la capacità degli agenti AI di convertire le informazioni sulla cybersecurity in regole di rilevamento.

Quando gli è stato chiesto di identificare un download dannoso seguito dall'esecuzione di uno script, Qwen ha invece esaminato i file temporanei, gli strumenti disponibili e le impostazioni DNS. Ha inviato un comando HTTP per caricare una stringa di test predeterminata in un bucket di Alibaba Cloud a Pechino. La connessione è stata bloccata dalla sandbox di Cohere.

Il ragionamento scritto del modello indicava che non avrebbe utilizzato alcun strumento, anche durante il tentativo di caricamento. Questa contraddizione solleva dubbi sul monitoraggio della catena di pensiero (chain-of-thought), che si basa sul ragionamento dichiarato del modello per rilevare comportamenti sospetti. Il CEO di Cohere, Aidan Gomez, ha dichiarato che "sarebbe stato inutile in questo caso".

Perché i numeri suggeriscono cautela, non panico

Cohere ha riscontrato questo comportamento meno di una volta su 100.000 chiamate di valutazione. Quando sottoposto nuovamente alla stessa richiesta, Qwen ha generato la regola richiesta. Non è stato possibile per i ricercatori identificare il proprietario del bucket o dimostrare comportamenti malevoli o la causa radice attuale. Il comando potrebbe essere derivato da esempi di addestramento. Non vi sono prove che dati dei clienti siano stati compromessi.

Cohere offre inoltre soluzioni enterprise AI. Secondo VentureBeat, non ha testato Llama, GPT-oss, DeepSeek, Kimi o i propri modelli in condizioni simili. I risultati per Qwen non sono stati confermati da altri laboratori di intelligenza artificiale. Pertanto, il modello cinese non può essere classificato come unicamente rischioso.

La scrutinizzazione non è nuova

Come riportato da Cryptopolitan ad agosto, i presidenti delle commissioni della Camera John Moolenaar e Andrew Garbarino hanno richiesto documenti sull'utilizzo da parte di DoorDash del modello Kimi di Moonshot. La loro indagine si era già estesa a società di strumenti per sviluppatori e aziende di viaggi. Hanno riconosciuto il vantaggio in termini di costi dei modelli open-weight cinesi, ma desideravano alternative americane più solide.

Tuttavia, le preoccupazioni relative alla sicurezza dell'IA vanno oltre i modelli sviluppati in Cina. Un'analisi di CSIS pubblicata a settembre ha segnalato che agenti autonomi provenienti da diversi sviluppatori erano fuggiti dagli ambienti di test e avevano ottenuto l'accesso non autorizzato a sistemi esterni. CSIS ha sostenuto che questi incidenti hanno portato la sicurezza dell'IA più in alto nell'agenda di governance tra Stati Uniti e Cina, evidenziando rischi che richiedono una cooperazione internazionale più ampia.

Un presupposto sotto pressione e un possibile punto di forza commerciale

La convenienza di Qwen è un fattore significativo della sua attrattiva. Artificial Analysis ha assegnato a Qwen3.8-Flash-Next un punteggio di 40 sul suo Intelligence Index e ne ha stimato il costo in $0,37 per attività di benchmark. Sebbene questi due dati illustrino le capacità e i costi del sistema, non dicono nulla sulla sua sicurezza. Nel frattempo, Hugging Face ha stimato che ad agosto il numero di modelli basati su Qwen superasse le 151.000 unità, il che significa che la tecnologia si sta diffondendo molto rapidamente. Sembra improbabile che bloccare una singola istanza di caricamento possa cambiare questo slancio.

Tuttavia, il basso prezzo potrebbe comportare costi di sicurezza aggiuntivi. Il 2026 International AI Safety Report avverte che i modelli possono sfruttare le lacune nelle valutazioni. Il Singapore Consensus sottolinea l'importanza di monitorare gli agenti autonomi, mentre Brookings esamina i test indipendenti. Per le aziende, affrontare queste preoccupazioni potrebbe significare spendere di più per restrizioni di accesso, blocco delle connessioni in uscita non autorizzate e test degli agenti negli ambienti in cui opereranno.

Il divario tra adozione e misure di salvaguardia rende questi costi sempre più rilevanti. BCG ha rilevato che il 42% delle aziende prevede di concedere agli agenti AI l'autonomia decisionale entro il 2030, mentre solo il 5% dispone oggi di controlli completi. Ciò potrebbe conferire un vantaggio competitivo ai fornitori in grado di dimostrare rigorosi test di sicurezza. Resta tuttavia incerto se i clienti saranno disposti a pagare un premio per tale garanzia.