Os gigantes chineses de smartphones estão redefinindo a IA – ao custo da sua privacidade

Fabricantes chineses de smartphones pretendem substituir a navegação manual em aplicativos por operações sem mãos e contínuas que utilizam modelos de IA. Esta tecnologia promete uma facilidade incomparável, mas levanta questões sobre o controle dos usuários sobre dispositivos e aplicativos.

Jogadores locais como Xiaomi, Vivo, Oppo e Honor estão envolvidos nisso agendamento. o slogan da Honor, “Quanto mais IA, mais ela te entende,” captura tanto o potencial quanto o risco dessa transformação. 

Este é o perigo: se a tomada de decisão baseada em IA for fundamentada em dados pessoais coletados sem consentimento explícito, torna-se menos sobre aprimorar a experiência do usuário e mais sobre vigilância intrusiva.

Aparentemente, durante o lançamento do Magic 7 em outubro de 2024, o CEO George Zhao usou o telefone para pedir 2.000 xícaras de café ao vivo no palco sem precisar dar um único toque. A plateia ficou impressionada, mas as perguntas persistiram: Como a tecnologia conheceu as preferências de Zhao, selecionou o aplicativo e autorizou o pagamento? 

Esta demonstração notável de conveniência suscita um confronto com um problema crítico: até que ponto esta inovação compromete a autonomia e a privacidade do utilizador? A performance ao vivo de George Zhao só foi possível porque o telefone acedeu a dados privados para seguir comandos. O que é mais importante para os utilizadores, a conveniência ou a privacidade?

Até onde vai o risco de invasão da privacidade?

Uma análise do Magic 7 demonstrou que ele explora as permissões de acessibilidade do Android. Esta funcionalidade destina-se a auxiliar utilizadores com deficiência. A Honor e certas outras empresas tecnológicas chinesas obtêm acesso a dados sensíveis dos utilizadores de formas opacas e não regulamentadas, contornando os processos tradicionais de consentimento.

A tomada de decisões impulsionada por IA poderia ser facilmente transformada numa arma se os telefones caírem nas mãos erradas. Em segundo lugar, hackers poderiam explorar estes sistemas para aceder aos dados financeiros dos utilizadores, mensagens e até fotografias privadas. A conveniência da tecnologia inteligente corre o risco de se tornar um instrumento de vigilância e controlo se não existirem salvaguardas robustas.

As implicações não poderiam ser mais graves. Se deixado sem controlo, a trajetura atual pode levar a um futuro em que os telemóveis não apenas sirvam os seus utilizadores, mas também os monitorem, gerenciem e comercializem as suas ações sem o seu conhecimento.

Notavelmente, o desafio tanto para fabricantes quanto para reguladores é equilibrar responsabilidade com inovação. A questão não é se a IA dominará nossos dispositivos; ela já o faz. Ainda assim, o potencial de dispositivos alimentados por essa tecnologia de inteligência é inegável. Esses dispositivos têm a capacidade de revolucionar vidas ao simplificar tarefas diárias e melhorar a acessibilidade.

Enquanto isso, a Apple apresentou recursos da Apple Intelligence em junho de 2024, um sistema de IA no dispositivo que transformou a Siri em uma assistente mais intuitiva. No entanto, a ação "revolucionária" da Apple na China não gerou um impacto significativo.  

O que a lei diz sobre invasões de privacidade?

Invasões de privacidade não são legais. De fato, em 2021, desenvolvedores de aplicativos chineses foram alvo de ações judiciais. Eles foram acusados de desenvolver ferramentas que exploravam permissões para interceptar transações digitais. 

Além disso, durante as celebrações do Ano Novo Lunar, aplicativos como o Red Packet Hunter interceptaram automaticamente os envelopes vermelhos do WeChat. Os desenvolvedores receberam multas e até sentenças de prisão após o tribunal determinar que essas ações violaram as leis de concorrência.

Também, diferentemente das empresas chinesas que aceitaram esses riscos como parte do processo criativo, concorrentes ocidentais agem com cautela. Por exemplo, a Microsoft enfrentou críticas por seu recurso Recall no início deste ano. Isso ocorre porque ele usa capturas de tela periódicas para avaliar o comportamento do usuário e recomendar ações.

Críticos compararam a funcionalidade a um pesadelo orwelliano, levando líderes tecnológicos como Elon Musk a pedir sua remoção. Profissionais de cibersegurança alertaram que essas capacidades poderiam ser exploradas para facilitar a vigilância.