O novo recurso de IA da Microsoft, o Recall, levanta preocupações com a privacidade

O novo recurso "Recall" da Microsoft para Windows, baseado em inteligência artificial e que salva tudo o que é exibido na tela do usuário, está gerando debates acalorados sobre privacidade. Diferentemente das buscas tradicionais por palavras-chave, o Recall captura regularmente imagens da tela do usuário e as armazena localmente no dispositivo. 

Leia também: Microsoft integra a IA Copilot aos jogos de Xbox e PC

As capturas de tela obtidas são então analisadas usando inteligência artificial para tornar o conteúdo pesquisável e recuperável sob demanda.  

Defensores da privacidade alertam para riscos "de pesadelo"

Jen Golbeck, professora de IA na Universidade de Maryland, afirma estar preocupada com o que aconteceria se o Recall caísse em mãos erradas.

“Se seus dados permanecerem no dispositivo, isso não significa que outras pessoas não possam acessá-los. Você não terá como se proteger, mesmo usando o modo anônimo ou limpando o histórico, porque a ferramenta tem acesso a tudo o que já foi exibido na sua tela.”

Jen Golbeck

Golbeck aponta casos em que o recurso pode representar certos riscos para os usuários, por exemplo, jornalistas que trabalham em condições perigosas ou vítimas de abuso. Embora o Recall ofereça opções de personalização e listas negras, os oponentes acreditam que ele ainda pode representar uma ameaça à privacidade do usuário em alguns casos.

Leia também: A UE pode multar a Microsoft em bilhões de dólares por informações de IA

Órgão regulador do Reino Unido inicia investigação formal sobre práticas de privacidade

O Gabinete do Comissário de Informação do Reino Unido (ICO, na sigla em inglês) abriu recentemente uma investigação contra a Recall para determinar o nível de conformidade da empresa com a proteção do usuário. A possibilidade de o comportamento do consumidor ser constantemente registrado gerou preocupações, e um porta-voz do ICO afirmou que as empresas devem "avaliar e mitigar rigorosamente os riscos aos direitos e liberdades das pessoas".

Em entrevista ao Wall Street Journal, o CEO da Microsoft, Satya Nadella, procurou tranquilizar os usuários, afirmando que o Recall funciona apenas localmente no computador do usuário e que as capturas de tela não são enviadas para a Microsoft. Alguns especialistas, como Geoff Blaber, da CCS Insight, acreditam que as questões de privacidade são exageradas e que os usuários têm mais controle sobre seus dados quando o dispositivo possui medidas de segurança, enquanto outros se mostram céticos.

Leia também: Novo controlador de acessibilidade da Microsoft gera reação negativa em relação aos preços

No anúncio do Recall, a Microsoft enfatizou que o recurso opera localmente, com o processamento de IA realizado no próprio dispositivo para aprimorar a segurança, e que não capturará imagens da sua navegação privada. Ao apresentar o recurso na segunda-feira, a Microsoft publicou em seu blog: “O Recall utiliza seu índice semântico pessoal, criado e armazenado inteiramente em seu dispositivo.”

O debate sobre o potencial de exploração maliciosa se intensifica

Michela Menting, diretora sênior de pesquisa da ABI Research, afirmou que o recurso representa um "retrocesso" para a privacidade.

“O argumento de que os hackers precisam de acesso físico para sequer conseguir manipular o Recall é, no mínimo, míope, pois existem muitas maneiras extremamente engenhosas pelas quais os agentes maliciosos poderiam explorar uma ferramenta tão valiosa.”

Conforme relatado anteriormente pela Cryptopolitan, a OpenAI, empresa de IA apoiada pela Microsoft, enfrentou críticas após lançar uma voz para sua nova versão do ChatGPT que é notavelmente semelhante à da atriz de Hollywood Scarlett Johansson.

Reportagem Cryptopolitan de Brenda Kanana