Les géants chinois des smartphonesdefil'IA – au détriment de votre vie privée

Les fabricants chinois de smartphones prévoient de remplacer la navigation manuelle dans les applications par une interface mains libres et fluide grâce à l'intelligence artificielle. Cette technologie promet une simplicité d'utilisation inégalée, mais soulève des questions quant au contrôle des utilisateurs sur leurs appareils et applications.

Des acteurs locaux comme Xiaomi, Vivo, Oppo et Honor participent à cette évolution. Le slogan d'Honor, « Plus l'IA est présente, mieux elle vous comprend », illustre à la fois le potentiel et les risques de cette transformation. 

Voici le danger : si la prise de décision pilotée par l’IA repose sur des données personnelles collectées sans consentement explicite, elle vise moins à améliorer l’expérience utilisateur qu’à induire une surveillance intrusive.

Apparemment, lors du lancement de Magic 7 en octobre 2024, le PDG George Zhao a utilisé son téléphone pour commander 2 000 cafés en direct sur scène, sans même avoir à appuyer une seule fois sur l'écran. Le public était stupéfait, mais des questions persistaient : comment la technologie connaissait-elle les préférences de Zhao, a-t-elle sélectionné l'application et autorisé le paiement ? 

Cette remarquable démonstration de praticité soulève une question cruciale : dans quelle mesure cette innovation compromet-elle l’autonomie et la vie privée des utilisateurs ? La performance en direct de George Zhao n’aurait été possible que si le téléphone avait accédé à des données privées pour exécuter les commandes. Qu’est-ce qui importe le plus aux utilisateurs : la praticité ou la protection de leur vie privée ?

Jusqu'où va le risque d'atteinte à la vie privée ?

Une analyse de Magic 7 a démontré que cette application exploite les autorisations d'accessibilité d'Android. Cette fonctionnalité est censée aider les utilisateurs en situation de handicap. Honor et d'autres entreprises technologiques chinoises accèdent ainsi à des données sensibles d'utilisateurs de manière opaque et non réglementée, en contournant les procédures de consentement classiques.

L'intelligence artificielle pourrait facilement être détournée à des fins malveillantes si les téléphones tombaient entre de mauvaises mains. De plus, des pirates informatiques pourraient exploiter ces systèmes pour accéder aux données financières, aux messages et même aux photos privées des utilisateurs. La praticité de cette technologie d'intelligence artificielle risque de se transformer en instrument de surveillance et de contrôle en l'absence de garanties robustes.

Les conséquences sont extrêmement graves. Si rien n'est fait, la tendance actuelle pourrait nous mener vers un avenir où les téléphones portables ne se contentent pas de servir leurs utilisateurs, mais surveillent, gèrent et commercialisent également leurs actions à leur insu.

Il est important de souligner que le défi, tant pour les fabricants que pour les organismes de réglementation, est de concilier responsabilité et innovation. La question n'est plus de savoir si l'IA dominera nos appareils ; c'est déjà le cas. Pour autant, le potentiel des appareils dotés de cette technologie intelligente est indéniable. Ces appareils ont la capacité de révolutionner nos vies en simplifiant les tâches quotidiennes et en améliorant l'accessibilité.

Parallèlement, Apple a lancé Apple Intelligence en juin 2024, un système d'IA embarqué qui a transformé Siri en un assistant plus intuitif. Cependant, cette initiative « révolutionnaire » d'Apple en Chine n'a pas rencontré le succès escompté.  

Que dit la loi en matière d'atteintes à la vie privée ?

Les atteintes à la vie privée sont illégales. En 2021, des développeurs d'applications chinois ont d'ailleurs fait l'objet de poursuites judiciaires. Ils étaient accusés d'avoir développé des outils exploitant les autorisations pour intercepter les transactions numériques. 

Par ailleurs, lors des célébrations du Nouvel An lunaire, des applications comme Red Packet Hunter interceptaientmaticles enveloppes rouges WeChat. Leurs développeurs ont été condamnés à des amendes, voire à des peines de prison, après que le tribunal a jugé que ces agissements violaient le droit de la concurrence.

De plus, contrairement aux entreprises chinoises qui ont intégré ces risques à leur processus créatif, les concurrents occidentaux font preuve de prudence. Par exemple, Microsoft a essuyé des critiques concernant sa fonctionnalité Recall en début d'année. En effet, celle-ci utilise des captures d'écran régulières pour analyser le comportement des utilisateurs et formuler des recommandations.

Les critiques ont comparé cette fonctionnalité à un cauchemar orwellien, incitant des figures de proue du secteur technologique comme Elon Musk à réclamer sa suppression. Des experts en cybersécurité ont mis en garde contre le risque d'exploitation de ces capacités à des fins de surveillance.