I giganti degli smartphone cinesi stanno ridefinendo l'IA – a scapito della tua privacy

I produttori cinesi di smartphone intendono sostituire la navigazione manuale delle app con operazioni senza mani e fluide che utilizzano modelli di IA. Questa tecnologia promette una facilità d'uso senza precedenti, ma solleva interrogativi sul controllo degli utenti sui dispositivi e sulle applicazioni.

I giocatori locali come Xiaomi, Vivo, Oppo e Honor sono coinvolti in questo agenda. Lo slogan di Honor, «Più IA, più ti capisce», cattura sia il potenziale che il rischio di questa trasformazione. 

Questo è il pericolo: se il processo decisionale basato sull'IA si fonda sui dati personali raccolti senza un consenso esplicito, diventa meno un miglioramento dell'esperienza utente e più una sorveglianza intrusiva.

A quanto pare, durante il lancio del Magic 7 nell'ottobre 2024, l'amministratore delegato George Zhao ha utilizzato il telefono per ordinare 2.000 tazze di caffè dal vivo sul palco senza richiedere un singolo tocco. Il pubblico era sbalordito, ma le domande persistevano: come ha fatto la tecnologia a conoscere le preferenze di Zhao, selezionare l'applicazione e autorizzare il pagamento? 

Questa straordinaria dimostrazione di convenienza impone di affrontare un problema critico: fino a che punto questa innovazione compromette l'autonomia e la privacy degli utenti? La performance dal vivo di George Zhao è stata possibile solo perché il telefono ha accesso ai dati privati per eseguire i comandi. Cosa è più importante per gli utenti, la convenienza o la privacy?

Fino a che punto si estende il rischio di invasione della privacy?

Un esame del Magic 7 ha dimostrato che sfrutta le autorizzazioni di accessibilità di Android. Questa funzione è destinata ad assistere gli utenti con disabilità. Honor e alcune altre aziende tecnologiche cinesi ottengono l'accesso a dati sensibili degli utenti in modi opachi e non regolamentati, aggirando i tradizionali processi di consenso.

Il processo decisionale basato sull'IA potrebbe essere facilmente utilizzato come arma se i telefoni finissero nelle mani sbagliate. In secondo luogo, gli hacker potrebbero sfruttare questi sistemi per accedere ai dati finanziari degli utenti, ai messaggi e persino alle foto private. La convenienza della tecnologia intelligente rischia di diventare uno strumento di sorveglianza e controllo se non ci sono solide misure di salvaguardia.

Le implicazioni non potrebbero essere più serie. Se lasciato incustodito, l'attuale traiettoria potrebbe portare a un futuro in cui i telefoni cellulari non solo servono gli utenti, ma li monitorano, gestiscono e commercializzano le loro azioni senza che ne siano a conoscenza.

È notevole che la sfida per produttori e regolatori sia bilanciare la responsabilità con l'innovazione. La domanda non è se l'IA dominerà i nostri dispositivi; lo fa già. Tuttavia, il potenziale dei dispositivi alimentati da questa tecnologia è innegabile. Questi dispositivi hanno la capacità di rivoluzionare le vite semplificando le mansioni quotidiane e migliorando l'accessibilità.

Nel frattempo, Apple ha introdotto ” come un punto di vendita principale per il nuovo iPhone 16, implicando che funzionalità Siri migliorate sarebbero state disponibili al lancio. nel giugno 2024, un sistema di IA sul dispositivo che ha trasformato Siri in un assistente più intuitivo. Tuttavia, l'azione «rivoluzionaria» di Apple in Cina non ha avuto un impatto significativo.  

Cosa dice la legge sulle invasioni della privacy?

Le invasioni della privacy non sono legali. Anzi, nel 2021 gli sviluppatori di app cinesi sono stati sottoposti ad azioni legali. Erano accusati di sviluppare strumenti che sfruttavano le autorizzazioni per intercettare le transazioni digitali. 

Inoltre, durante le celebrazioni del Capodanno lunare, applicazioni come Red Packet Hunter intercettavano automaticamente le buste rosse di WeChat. Gli sviluppatori hanno ricevuto multe e persino condanne detentive dopo che il tribunale ha stabilito che queste azioni violavano le leggi sulla concorrenza.

Inoltre, a differenza delle aziende cinesi che hanno accettato questi rischi come parte del processo creativo, i concorrenti occidentali procedono con cautela. Ad esempio, Microsoft ha incontrato critiche per la sua funzione Recall all'inizio di quest'anno. Questo perché utilizza screenshot periodici per valutare il comportamento degli utenti e raccomandare azioni.

I critici hanno paragonato la funzione a un incubo orwelliano, spingendo leader tecnologici come Elon Musk a chiedere la sua rimozione. I professionisti della cybersecurity hanno avvertito che queste funzionalità potrebbero essere sfruttate per facilitare la sorveglianza.