As gigantes chinesas de smartphones estãodefia IA – a um custo para a sua privacidade

Fabricantes chineses de smartphones pretendem substituir a navegação manual em aplicativos por operações intuitivas e sem o uso das mãos, que utilizam modelos de inteligência artificial. Essa tecnologia promete uma facilidade incomparável, mas levanta questões sobre o controle do usuário sobre dispositivos e aplicativos.

Empresas locais como Xiaomi, Vivo, Oppo e Honor estão envolvidas nessa agenda. O slogan da Honor, "Quanto mais IA, mais ela te entende", captura tanto o potencial quanto o risco dessa transformação. 

Este é o perigo: se a tomada de decisões orientada por IA for baseada em dados pessoais coletados sem consentimento explícito, ela deixa de ser sobre aprimorar a experiência do usuário e passa a ser sobre vigilância intrusiva.

Aparentemente, durante o lançamento do Magic 7 em outubro de 2024, o CEO George Zhao usou o celular para pedir 2.000 xícaras de café ao vivo no palco, sem precisar tocar na tela uma única vez. A plateia ficou impressionada, mas algumas perguntas persistiram: como a tecnologia sabia das preferências de Zhao, selecionou o aplicativo e autorizou o pagamento? 

Essa notável demonstração de praticidade suscita um problema crucial: até que ponto essa inovação compromete a autonomia e a privacidade do usuário? A performance ao vivo de George Zhao só teria sido possível se o telefone tivesse acessado dados privados para executar comandos. O que é mais importante para os usuários: praticidade ou privacidade?

Até que ponto vai o risco de invasão de privacidade?

Uma análise do Magic 7 demonstrou que ele explora as permissões de acessibilidade do Android. Esse recurso visa auxiliar usuários com deficiência. A Honor e outras empresas de tecnologia chinesas obtêm acesso a dados sensíveis do usuário de maneiras obscuras e não regulamentadas, burlando os processos tradicionais de consentimento.

A tomada de decisões baseada em IA pode ser facilmente usada como arma se os telefones caírem em mãos erradas. Em segundo lugar, hackers podem explorar esses sistemas para obter acesso a dados financeiros, mensagens e até mesmo fotos privadas dos usuários. A conveniência da tecnologia de inteligência artificial corre o risco de se tornar um instrumento de vigilância e controle se não houver medidas de segurança robustas em vigor.

As implicações não poderiam ser mais graves. Se não for controlada, a trajetória atual pode levar a um futuro em que os celulares não apenas sirvam aos seus usuários, mas também monitorem, gerenciem e comercializem suas ações sem o seu conhecimento.

Notavelmente, o desafio tanto para fabricantes quanto para órgãos reguladores é equilibrar responsabilidade e inovação. A questão não é se a IA dominará nossos dispositivos; ela já domina. Ainda assim, o potencial dos dispositivos que utilizam essa tecnologia de inteligência artificial é inegável. Esses dispositivos têm a capacidade de revolucionar vidas, simplificando tarefas diárias e melhorando a acessibilidade.

Entretanto, em junho de 2024, a Apple lançou o Apple Intelligence , um sistema de IA integrado aos dispositivos que transformou a Siri em uma assistente mais intuitiva. Mesmo assim, a ação "revolucionária" da Apple na China não conseguiu gerar um impacto significativo.  

O que diz a lei sobre invasões de privacidade?

Invasões de privacidade não são legais. Aliás, em 2021, desenvolvedores de aplicativos chineses foram alvo de ações judiciais. Eles foram acusados ​​de desenvolver ferramentas que exploravam permissões para interceptar transações digitais. 

Além disso, durante as comemorações do Ano Novo Lunar, aplicativos como o Red Packet Hunter interceptarammaticenvelopes vermelhos do WeChat. Os desenvolvedores foram multados e até condenados à prisão depois que o tribunal determinou que essas ações violavam as leis de concorrência.

Além disso, diferentemente das empresas chinesas que aceitaram esses riscos como parte do processo criativo, as concorrentes ocidentais agem com cautela. Por exemplo, a Microsoft foi criticada por seu recurso Recall no início deste ano. Isso porque ele utiliza capturas de tela periódicas para avaliar o comportamento do usuário e recomendar ações.

Os críticos compararam o recurso a um pesadelo orwelliano, levando líderes da área de tecnologia, como Elon Musk, a pedir sua remoção. Profissionais de segurança cibernética alertaram que essas funcionalidades poderiam ser exploradas para facilitar a vigilância.