I giganti cinesi degli smartphone stannodefil'intelligenza artificiale, a scapito della tua privacy

I produttori cinesi di smartphone intendono sostituire la navigazione manuale tramite app con operazioni fluide e senza mani che sfruttano modelli di intelligenza artificiale. Questa tecnologia promette una semplicità d'uso senza pari, ma solleva interrogativi sul controllo dell'utente su dispositivi e app.

Aziende locali come Xiaomi, Vivo, Oppo e Honor sono coinvolte in questo progetto. Lo slogan di Honor, "Più intelligenza artificiale c'è, più ti capisce", coglie sia il potenziale che il rischio di questa trasformazione. 

Questo è il pericolo: se il processo decisionale basato sull'intelligenza artificiale si basa su dati personali raccolti senza esplicito consenso, diventa meno un modo per migliorare l'esperienza dell'utente e più una sorveglianza invasiva.

A quanto pare, durante il lancio di Magic 7 nell'ottobre 2024, il CEO George Zhao ha usato il telefono per ordinare 2.000 tazze di caffè dal vivo sul palco, senza dover nemmeno toccare il telefono. Il pubblico è rimasto sbalordito, ma le domande persistevano: come ha fatto il tecnico a conoscere le preferenze di Zhao, a selezionare l'applicazione e ad autorizzare il pagamento? 

Questa straordinaria dimostrazione di praticità ci porta a confrontarci con un problema cruciale: in che misura questa innovazione compromette l'autonomia e la privacy dell'utente? L'esibizione dal vivo di George Zhao sarebbe stata possibile solo se il telefono avesse avuto accesso ai dati privati ​​per eseguire i comandi. Cosa è più importante per gli utenti, la praticità o la privacy?

Quanto è elevato il rischio di violazione della privacy?

Un'analisi di Magic 7 ha dimostrato che sfrutta i permessi di accessibilità di Android. Questa funzionalità è pensata per assistere gli utenti con disabilità. Honor e alcune altre aziende tecnologiche cinesi ottengono l'accesso ai dati sensibili degli utenti in modi poco trasparenti e non regolamentati, aggirando i tradizionali processi di consenso.

Il processo decisionale basato sull'intelligenza artificiale potrebbe essere facilmente trasformato in un'arma se i telefoni finissero nelle mani sbagliate. In secondo luogo, gli hacker potrebbero sfruttare questi sistemi per accedere ai dati finanziari, ai messaggi e persino alle fotografie private degli utenti. La praticità della tecnologia di intelligence rischia di trasformarsi in uno strumento di sorveglianza e controllo in assenza di solide misure di sicurezza.

Le implicazioni non potrebbero essere più gravi. Se non si interviene, l'attuale tendenza potrebbe portare a un futuro in cui i telefoni cellulari non solo servono ai loro utenti, ma monitorano, gestiscono e commercializzano le loro azioni a loro insaputa.

In particolare, la sfida sia per i produttori che per gli enti regolatori è bilanciare responsabilità e innovazione. La domanda non è se l'intelligenza artificiale dominerà i nostri dispositivi: lo fa già. Tuttavia, il potenziale dei dispositivi basati su questa tecnologia intelligente è innegabile. Questi dispositivi hanno la capacità di rivoluzionare la vita semplificando le attività quotidiane e migliorando l'accessibilità.

Nel frattempo, nel giugno 2024 Apple ha introdotto Apple Intelligence , un sistema di intelligenza artificiale integrato nei dispositivi che ha trasformato Siri in un assistente più intuitivo. Ciononostante, l'azione "rivoluzionaria" di Apple in Cina non è riuscita a generare un impatto significativo.  

Cosa dice la legge in merito alle violazioni della privacy?

Le violazioni della privacy sono illegali. Infatti, nel 2021, gli sviluppatori di app cinesi sono stati sottoposti a procedimenti legali. Sono stati accusati di aver sviluppato strumenti che sfruttavano le autorizzazioni per intercettare le transazioni digitali. 

Inoltre, durante le celebrazioni del Capodanno lunare, applicazioni come Red Packet Hunter intercettavanomaticle buste rosse di WeChat. Gli sviluppatori sono stati multati e persino condannati al carcere dopo che il tribunale ha stabilito che queste azioni violavano le leggi sulla concorrenza.

Inoltre, a differenza delle aziende cinesi che hanno accettato questi rischi come parte del processo creativo, i concorrenti occidentali procedono con cautela. Ad esempio, Microsoft è stata criticata per la sua funzione Recall all'inizio di quest'anno, perché utilizza screenshot periodici per valutare il comportamento degli utenti e consigliare azioni.

I critici hanno paragonato la funzionalità a un incubo orwelliano, spingendo leader tecnologici come Elon Musk a chiederne la rimozione. Gli esperti di sicurezza informatica hanno messo in guardia dal fatto che queste funzionalità potrebbero essere sfruttate per facilitare la sorveglianza.